박막화
완성된 D램 웨이퍼를 30μm 까지 갈아 냅니다. 종이 두께의 3분의 1입니다. 여기서 휘면 뒤 공정이 전부 어긋납니다.
High Bandwidth Memory
HBM3E 고대역폭 메모리
D램을 12층으로 쌓고 실리콘을 관통해 잇습니다. AI 가속기의 대역폭은 여기서 나옵니다.
- 대역폭
- 1.28TB/s
- 적층
- 12단
- 용량
- 36GB
- 전력
- 2.6pJ/bit
Overview
넓게 잇는 대신 천천히 보낸다
일반 DRAM 은 좁은 통로로 빠르게 보냅니다. HBM 은 반대입니다. 통로를 1,024개에서 2,048개로 넓히고 각 통로의 속도는 낮춥니다. 결과적으로 총 대역폭은 훨씬 크면서 전력은 오히려 적습니다.
이렇게 하려면 D램과 프로세서가 아주 가까이 붙어야 합니다. 그래서 D램 12장을 쌓아 하나의 덩어리로 만들고, 이를 실리콘 인터포저 위에 가속기와 나란히 올립니다. 배선 길이가 밀리미터 단위로 줄어듭니다.
쌓는 일이 어렵습니다. D램 한 장을 30μm 두께로 갈아 낸 뒤 지름 5μm 구멍을 수천 개 뚫고 구리로 채웁니다. 12장을 정렬 오차 2μm 안에서 겹쳐 붙여야 합니다. HBM 가격이 일반 DRAM 의 5~7배인 이유가 여기 있습니다.
Spec
HBM 세대별 규격
| 세대 | 적층 | 용량 | 핀 속도 | 대역폭 | IO 폭 | 접합 방식 |
|---|---|---|---|---|---|---|
| HBM2E | 8단 | 16GB | 3.2Gbps | 410GB/s | 1,024 | 마이크로범프 |
| HBM3 | 8단 | 24GB | 6.4Gbps | 819GB/s | 1,024 | 마이크로범프 |
| HBM3E | 8단 | 24GB | 9.2Gbps | 1.18TB/s | 1,024 | 마이크로범프 |
| HBM3E | 12단 | 36GB | 10.0Gbps | 1.28TB/s | 1,024 | 마이크로범프 |
| HBM4 (개발) | 16단 | 64GB | 8.0Gbps | 2.05TB/s | 2,048 | 하이브리드 본딩 |
HBM4 는 IO 폭을 2,048개로 두 배 늘리는 대신 핀 속도를 낮춥니다. 전력을 억제하면서 대역폭을 키우는 방향입니다.
Key
핵심 수치
- 대역폭
- 1.28TB/s
- 적층 수
- 12단
- TSV 지름
- 5μm
- 전력 효율
- 2.6pJ/bit
12단 36GB 단일 스택 기준
스택 총 두께 720μm
다이당 관통 전극 수천 개
GDDR7 대비 약 46% 수준
Making
쌓는 공정의 네 단계
TSV 형성
지름 5μm 구멍을 다이 하나에 수천 개 뚫고 구리로 채웁니다. 종횡비가 10:1 이라 도금이 균일해야 합니다.
적층 접합
12장을 정렬 오차 2μm 안에서 겹칩니다. 한 장이 틀어지면 스택 전체를 버립니다.
방열 설계
아래층에서 난 열이 위로 갇힙니다. 층 사이 재료의 열전도율을 높이고 더미 범프를 넣어 열 통로를 만듭니다.
Thermal
열이 대역폭의 한계를 정한다
HBM 스택은 12장이 겹쳐 있어 가운데 층의 열이 빠져나갈 곳이 없습니다. 접합부 온도가 95°C 를 넘으면 리프레시 주기를 절반으로 줄여야 하고, 그만큼 실효 대역폭이 떨어집니다.
넥서스일렉은 층 사이 채움재의 열전도율을 0.4W/mK 에서 1.6W/mK 로 올렸습니다. 신호를 나르지 않는 더미 범프를 열 통로로 배치해 수직 열저항을 27% 낮췄습니다.
그 결과 동일 냉각 조건에서 최상층과 최하층의 온도 차가 14°C 에서 9°C 로 줄었습니다. 가속기 전체가 열 때문에 클럭을 내리는 시점이 늦춰집니다.
- 층간 채움재 열전도율 0.4 → 1.6W/mK
- 더미 범프 열 통로 배치 · 수직 열저항 27% 감소
- 최상·최하층 온도 차 14°C → 9°C
- 95°C 초과 시 리프레시 2배 모드 자동 전환
