삼성전자가 인공지능(AI) 메모리 시장을 공략하기 위해 커스텀 고대역폭메모리(HBM)를 개발 하고 있다. 커스텀 HBM은 HBM4 양산 시점에 상용화될 것으로 전망된다.
최장석 삼성전자 메모리사업부 상무(신사업기획팀장)은 9일 서울 강남구 삼성동 코엑스에서 열린 '삼성 파운드리 포럼 2024'에서 "주요 고객들과 다양한 형태의 커스터마이징 협력을 진행 중"이라며 "HBM4 시대에는 커스텀 HBM이 현실화될 예정"이라고 말했다.
이어 "커스텀 (HBM)은 PAA(성능, 파워, 면적) 측면에서 다양한 옵션과 기존 제품과 다른 상당한 가치를 제공할 것"이라며 "실례로 HBM D램(코어 다이)과 고객 맞춤형 로직 칩의 3D 형태 적층은 (반도체의) 전력과 면적을 크게 줄일 수 있다"고 말했다.
삼성전자가 이날 소개한 커스텀 HBM은 시스템온칩(SoC) 위에 HBM을 실장하는 3D 형태다. 이러한 방식을 통해 SoC와 HBM을 결합하면 인터포저와 베이스다이가 불필요해 전력과 면적을 크게 줄일 수 있다. 기존 AI 반도체가 연산을 위해 SoC→인터포저→HBM 간 데이터 이동이 필요했다면, 커스텀 HBM에선 SoC→HBM 간 데이터 이동을 통해 연산을 처리할 수 있다. 중간 과정이 생략된 만큼 면적과 전력 소모가 줄어든다.
인터포저는 HBM과 SoC 연결을 위한 일종의 지하도다. 엔비디아 A100과 H100, AMD MI325X 등 HBM을 탑재하는 AI 반도체에서 필수적으로 쓰이고 있다.
최 상무는 "메모리 입출력과(I/O)와 컨트롤러 기능을 가속기에서 HBM 베이스 다이로 이전하면 더 많은 로직 공간에 AI 기능을 할당할 수 있다"고 설명했다. 최 상무가 두 번째로 언급한 커스텀 HBM은 베이스다이에 HBM을 실장하는 형태로 추정된다. 이 경우에는 범용 HBM과 유사하나 고객의 요청에 따라 베이스다이에 설계자산(IP)가 탑재되는 커스텀 HBM이다.
커스텀 HBM은 고객사의 요청에 따라 다양한 패키지 형태로 제공될 것으로 보인다. 삼성전자가 이날 언급한 커스텀 HBM은 'SoC 위에 HBM을 탑재한 형태'와 '베이스다이에 로직 기능을 대거 추가한 형태'로 총 2가지다.
최시영 삼성전자 사장도 이날 진행된 기조연설에서 커스텀 HBM에 대해 언급했다. 그는 삼성전자 커스텀 HBM의 장점으로 IP, 인터포저, HBM, 로직, 테스트, 패키징 등 턴키 솔루션을 꼽았다.
삼성전자가 9일 서울 강남구 삼성동 코엑스에서 '삼성 파운드리 포럼 2024'을 개최했다. <사진=삼성전자>
