SK하이닉스가 현존 고대역폭메모리(HBM) 가운데 최대 용량인 36기가바이트(GB) HBM3E 12단 제품 양산을 시작했다고 26일 밝혔다. 세계 최초 양산이다. 기존 8단 HBM의 최대 용량은 3GB D램 단품칩을 활용한 24GB 제품이었다.
SK하이닉스는 연내 양산 제품을 고객사에 공급할 예정이라고 밝혔다. 고객사란 엔비디아를 의미한다. 엔비디아 신형 인공지능(AI) 가속기용 그래픽처리장치(GPU)인 '블랙웰'에 12단 HBM3E가 탑재된다.
모건스탠리는 지난 24일(현지시간) 엔비디아가 TSMC 생산 공장에서 블랙웰 양산에 돌입했다면서 오는 4분기에만 45만개 칩을 출하할 것이라고 예측했다. 시장조사업체 트렌드포스는 내년 HBM3E에서 12단 제품 비중이 최소 40% 이상으로 증가한다고 전망했다.
SK하이닉스는 "2013년 세계 최초로 HBM 1세대(HBM1)를 출시한데 이어 HBM 5세대(HBM3E)까지 전 세대 라인업을 개발해 시장에 공급해온 유일한 기업이 SK하이닉스"라면서 "12단 신제품도 가장 먼저 양산에 성공해 AI 메모리 시장에서 독보적 지위를 이어가고 있다"고 강조했다.
회사는 HBM3E 12단 제품이 AI 메모리에 필수적인 속도, 용량, 안정성 등 모든 부문에서 세계 최고 수준을 충족시켰다고 설명했다. 동작 속도는 현존 메모리 최고 속도인 9.6Gbps로 높였다. 이번 제품 4개를 탑재한 단일 GPU로 거대언어모델(LLM)인 '라마 3 70B'를 구동할 경우 700억개의 전체 파라미터를 초당 35번 읽어낼 수 있다.
기존 8단 제품과 동일한 두께로 3GB D램 칩 12개를 적층해 용량을 50% 늘렸다. 이를 위해 D램 단품 칩을 기존보다 40% 얇게 만들고 실리콘관통전극(TSV) 기술을 활용해 수직으로 쌓았다.
얇아진 칩을 더 높이 쌓을 때 생기는 구조적 문제도 해결했다고 강조했다. 회사는 자사 핵심 기술인 어드밴스드(Advanced) MR-MUF 공정을 적용해 전 세대보다 방열 성능을 10% 높였고, 강화된 휨 현상 제어를 통해 제품의 안정성과 신뢰성을 확보했다고 설명했다.
기존에는 칩 다이를 올릴 때 본딩 장비를 쓰고, 이후 매스리플로우(MR:Mass Reflow) 공정으로 칩을 완전히 붙인 후 절연을 위한 언더필(Underfill) 공정 과정을 거쳤다. 12단 HBM3E는 휘어짐(Warpage) 방지를 위해 본딩시 열을 조금 가해서 살짝 붙인 뒤 MR 과정을 거친다. SK하이닉스에선 이 공법을 hMR(heated Mass Reflow)이라고 이름붙인 것으로 전해진다.
김주선 SK하이닉스 AI 인프라담당 사장은 "다시 한번 기술 한계를 돌파하며 시대를 선도하는 독보적 AI 메모리 리더로서의 면모를 입증했다"면서 "앞으로도 AI 시대의 난제들을 극복하기 위한 차세대 메모리 제품을 착실히 준비해 '글로벌 1위 AI 메모리 공급사'로서의 위상을 이어가겠다"고 말했다.
