알고 지내던 업계 지인 여러명이 카톡으로 기사 하나를 보내며 보도 내용이 사실인지 알아봐달라고 했다.
보도 요지는 "엔비디아가 삼성전자에 고대역폭메모리(HBM) 설계 변경을 요청했고, 이 때문에 공급이 더 늦어진다"는 것이었다. 몇 시간 뒤 기사는 삭제됐다. 마침 그날 삼성전자 주가가 꽤나 빠졌는데 기사 탓이 아니냐는 해석도 나왔다.
HBM 대응 실패가 트리거가 돼 삼성 반도체 수장이 깜짝 인사 조치를 당한 게 얼마 전 일이다. 그 기사가 내려간 이유는 사실 관계가 틀렸기 때문이라고 했다. 수장까지 갈아치울 민감한 사안을 누군가 밖에서 떠들고 다닐 수 있을까 라는 생각에 그런가보다 했다. 연일 계속되는 비슷한 보도에 피로감도 상당하다.
삼성 안팎에선 그래픽D램이나 조금씩 사갔던 엔비디아였는데 애플에 버금가는 큰 손 고객이 됐다는 평가를 이제는 완전히 받아들이는 분위기다. 연매출 수천억원 수준인 장비 회사 한미반도체가 기존 후공정 장비(쏘 싱귤레이션, EMI 차폐 등) 사업 약세에도 불구하고 80조원대 연매출을 올리는 LG전자와 시총 경쟁을 벌이는 기이한 현상도 결국 엔비디아 덕, 생성형 인공지능(AI) 인프라 투자 확대 덕 아니겠나.
18일(현지시간) 미국 증시에서 엔비디아는 드디어 마이크로소프트(MS)를 누르고 시총 1위 자리를 꿰 차고 앉았다. 2022년 11월 30일 오픈AI가 챗GPT를 공개한 이후 엔비디아 실적과 주가는 하늘 높은 줄 모르고 치솟고 있다.
엔비디아는 지난 1분기(2024 회계연도 기준 2월~4월) 매출 260억4000만달러, 영업이익 169억달러를 기록했다. 두 지표 모두 월가 추정치를 훌쩍 뛰어넘는 깜짝 실적이었다. 영업이익률은 무려 65%였다. 엔비디아 전체 매출에서 AI 그래픽처리장치(GPU)가 차지한 비중은 86.7%에 달했다. 이전까지 엔비디아 GPU는 대부분 게이밍용으로 출하됐다. 2022년 중반기부터 데이터센터용 AI GPU 매출이 게이밍 매출을 뛰어넘더니 챗GPT 공개 이후로는 그야말로 '폭발적'으로 성장하고 있다.
엔비디아 GPU와 SK하이닉스 HBM이 탑재되는 AI 가속기 H100 보드는 하나가 무려 우리돈 5000만원에 달하지만, 없어서 못 판다. 차기 H200 보드도 동일한 상황이 이어질 것으로 보인다. 젠슨 황 엔비디아 최고경영자(CEO)는 1분기 실적발표 컨퍼런스 콜에서 "수요는 정말 많은데 공급이 달린다"며 "H200 역시 한 동안 수요가 공급을 초과할 것"이라고 했다.
엔비디아 AI 가속보드 공급 부족은 첨단 패키지 공정과 관련 부품의 생산용량 부족 때문이라는 것이 전문가들의 설명이다. H100이나 H200은 커다란 보드 위로 실리콘 인터포저가 올라가고, 그 위로 GPU와 HBM가 얹히는 구조를 갖고 있다. HBM 칩 다이(Die) 공급도 원활하지 않지만 더 큰 병목은 TSMC의 CoWoS(Chip on Wafer on Substrate) 패키지 생산용량과 실리콘 인터포저 공급부족 때문이다. CoWoS 패키지 생산용량은 TSMC가 굉장히 공격적으로 증설을 하고 있는 중이다. 그러나 실리콘 인터포저는 상황이 다르다.
실리콘 인터포저는 여러 개의 반도체 다이를 하나의 패키지로 통합하고 전기 신호를 전달할 때 활용된다.
H100에 탑재되는 실리콘 인터포저는 면적이 만만치 않게 넓다. TSMC에 따르면 H100에 탑재되는 실리콘 인터포저는 노광 공정시 사용하는 마스크(레티클) 사이즈(26×33㎜=858㎟)의 3.3배라고 한다. 계산하면, 인터포저 면적은 2831㎟다. 이 면적이면 40나노 공정으로 300㎜ 웨이퍼 한 장에서 뽑아 낼 수 있는 인터포저 개수는 수율 100%를 가정했을 시 9개 정도로 추정된다. 웨이퍼 상태에서 배선층을 형성하고 실리콘관통전극(TSV) 공정을 거쳐야 하므로 불량품을 일부 버린다고 가정하면 뽑아낼 수 있는 인터포저 개수는 6~7개로 줄어든다.
GPU 면적이 커지고 HBM 탑재 개수도 늘어나기 때문에 인터포저 면적 역시 늘어날 수밖에 없다. 2026년에는 마스크 사이즈의 5.5배인 4719㎟, 2017년에는 8배인 6864㎟ 크기가 될 것이라고 TSMC는 전망했다. 이 경우 300㎜ 웨이퍼에서 뽑아낼 수 있는 인터포저 개수는 수율을 100%로 잡더라도 5개 내외 혹은 그 이하 개수로 떨어진다. 인터포저 면적이 더 넓어지면 채산성이 크게 떨어질 수 밖에 없다. 최근 인터포저 역할까지 겸하는 반도체 유리기판에 대한 업계 관심이 높은 것도 바로 이 같은 배경 때문이다.
TSMC는 직접 인터포저 생산량이 부족하자 UMC 같은 주변 기업에서 조달을 시도하고 있다. 그러나 현재 대만에만 의존 중인 공급망 구조에선 근본적 해결이 어렵다는 평가가 많다. 미래 어떤 순간에 이르러서는 인터포저 면적만을 무작정 늘리는 것이 아니라 필요한 영역에만 인터포저를 까는 패키지 기술, 예컨대 TSMC의 CoWoS-L(Chip-on-Wafer-on-Substrate with Local Interconnect) 같은 것들이 상용화될 수 있다. 그러나 필요한 영역에 인터포저를 까는 그 패키지 공정 역시 전공정에 준하는 고도의 기술력을 요구한다.
시점이 관건이지만, 삼성전자로 엔비디아 일감이 갈 수 밖에 없다고 보는 전문가 분석은 그래서 타당하다. 삼성전자는 자체 인터포저 설계 생산 능력을 갖고 있는 몇 안되는 회사다. HBM과 2.5D 패키지 기술과 시설 역시 갖고 있다. 얼마 전 개최한 자체 파운드리 포럼에선 메모리, 인터포저, 패키지까지 턴키로 공급할 수 있는 유일한 회사라고 강조했다.
어떤 이는 현 시점에 삼성전자가 가장 어려워하는 건 엔비디아 GPU에 맞춰놓은 SK하이닉스 HBM 특성을 따라가는 것이라고도 했다. 메모리 최강자로 불렸던 삼성으로서는 지금껏 가보지 않은 길이다. '초격차'를 내세웠던 그 시절 생각, 기분, 행동 방식은 잠시 접어둘 때가 아닐까 싶다.
저작권자 © 전자부품 전문 미디어 디일렉 무단전재 및 재배포 금지