[영상] 삼성전자, 엔비디아에 '이것' 제안했다는데... AI GPU용 HBM3‧2.5D 패키지 턴키 공급
2023-07-24 장현민 PD
<인터뷰 원문>
진행 디일렉 이수환 전문기자, 디일렉 이도윤 편집국장
출연 디일렉 한주엽 대표
-마지막 순서입니다. 한주엽 대표 모셨습니다.
“안녕하십니까.”
-어제죠. 어제 기사 하나 쓰셨어요.
“오늘 제가 얘기할 주제는요. 삼성전자가 엔비디아의 AI(인공지능) 연산을 위한 엔터프라이즈용 그래픽처리장치(GPU)에 들어가는 고대역폭메모리3(HBM3)와 2.5D 패키지를 턴키로 우리가 공급을 하겠다라고 제안을 했다는 내용이 있어서 나왔습니다.”
-그건 원래 엔비디아가 다른 데 두 군데를 하고 있었죠? 파운드리하고 HBM 쪽은.
“파운드리 전공정은 TSMC가 선단공정으로 했고요. 5나노, 4나노. 지금도 앞으로도 계속 전공정은 TSMC가 할 걸로 보입니다. 그리고 HBM은 SK하이닉스 거를 HBM3를 사와서 물론 품질평가 이런 건 엔비디아가 했겠지만 HBM3 같은 경우는 SK하이닉스 여태까지 100% 지금 공급을 하고 있고요. 패키징도 CoWoS(칩온웨이퍼-온서브스트레이트)라는 기법으로 2.5D 패키징을 TSMC가 인터포저 위에 GPU 깔고 옆에 HBM 박아서 이렇게 패키징 하는 것까지 이때까지는 TSMC가 다 했는데 얘기를 들어보니까 지금 엔비디아 같은 경우는 좀 물량이 많이 모자란다고 그래요. 패키징 때문에.”
-패키징에 속도가 안 난다.
“그래서 TSMC도 CoWoS 캐파를 지금 늘리고 있는 중이기는 하거든요.”
-맞아요. 투자를 시작했죠.
“투자를 시작했는데. 현재는 지금 계속 캐파가 칩 자체는 지금 우리가 더 팔 수 있는데. 지금 저게 더 안 돼서 못 팔고 있다라고 약간 생각을 하는 것 같아요. 그래서 패키징 관련해서 엔비디아가 다변화하려고 하는 것은 엔비디아의 니즈인 것 같고요. 그래서 일반 외주반도체패키지(OSAT) 업체. 대만 SPIL이나 미국 앰코테크놀로지. 원래 계속 거래를 하던 OSAT였거든요. 외주반도체패키지(OSAT) 업들이었는데 이 두 군데는 가는 것 같고요. 물론 전공정 웨이퍼는 TSMC 거를 받아오고 HBM도 SK하이닉스 거 그대로 받아오겠죠. 여기 삼성이 낀 겁니다. 낀 거라는 건 이건 엔비디아가 먼저 제안을 하라고 한 건지 삼성이 먼저 쫓아가서 하겠다고 한 건지 아마 후자일 가능성이 더 높은데. 삼성이 HBM 거는 우리가 쓸게 파운드리 우리 안 해도 돼. 우리 그냥 패키징 HBM 우리 거 쓰고 엔비디아 그대들이 TSMC가 가공한 GPU 전공정 웨이퍼를 사서 우리한테 주면 우리가 그거 잘라가지고 인터포저 설계도 우리가 하고 GPU 붙이고 HBM 우리 거 붙여가지고 삼성이 '아이큐브(I-Cube)라는 기술로 이미 2.5D 기술은 있거든요. 그래서 "우리가 패키징 서비스와 HBM3 공급까지 턴키로 해드리겠습니다"라고 제안을 해놓은 상태인 것 같아요. 그래서 한 200명 정도 엔지니어들하고 사인하겠다. 붙여주겠다. 아주 파격적으로.”
-그 턴키에만 200명을 붙여주겠다?
“엔비디아 프로젝트에. H100 이런 거 있잖아요. 그거 지금 H100 이런 거 6000만원에서 7000만원씩 하던데요? 카드 하나가. 그렇게 제안을 한 것 같아요. 근데 중요한 건 이게 HBM3가 아직 엔비디아 퀄 통과 못 받았고요. 못 받은 걸로 저는 얘기를 듣고 있고. 2.5D 패키지도 퀄을 받아야 돼요. 그러니까 아직 갈 길이 좀 남았는데. 이게 만약에 된다고 그러면 엔비디아가 전체적으로 생산한 물량의 한 10% 정도는 삼성이 가져올 수 있지 않을까. 물론 전제는 삼성이 그 퀄을 다 통과해야 된다. 그리고 이것을 쥐고 움직이는 삼성전자 내 조직은 작년 연말에 만들어진 어드밴스드패키지(AVP) 사업팀이죠. 부사장 조직인데 여기서 천안에서 하고 있는 것 같고. HBM3를 위해서 지금 일부 시설투자도 많이 하고 있는 것 같아요.”
-저는 이걸 들었을 때 참 복잡한 경우의 수가 많이 생각이 들더라고요. 왜냐하면 한때 삼성도 엔비디아 GPU 중급형 라인이긴 했지만 파운드리를 하긴 했었고.
“지금 다 빠졌죠.”
-TSMC가 가져갔고. 파운드리에서의 패키징은 압도적으로 TSMC가 경쟁력이 높았으니까 그건 그렇다 치는데. HBM이 삼성의 점유율 관련해서 얼마 전에 논란이 있었는데 이 HBM 쪽이 약하단 말이죠. 점유율이나 이런 부분들에 대해서 그래서 그런 파격적인 조건이나 이런 것들을 내건 걸 보면 패키징도 하고 HBM 점유율도 높이고. 여러 가지로 그렇죠. 그렇게 하고 우리가 좀 더 파격적으로 지원해 주고 잘하면 엔비디아에서 전공정 다시 줄지 어떻게 압니까. 그런 것들도 좀 종합적으로 고려해 본 게 아닌가라는 생각이 들었거든요.
-제 생각에 역으로 따지면 결국 TSMC가 하고 있던 거고. 삼성이 들어가는 거 아니에요 지금 퀄 테스트를 받아야 하는데. 엔비디아든 누구든 입장에서 삼성이 많이 떨어지면 엄청난 데미지 아니에요?
“삼성이 못 들어가면? 그렇죠.”
-그러면 “야 봐라. TSMC가 앞서는 거 아니냐.” 이렇게 당연히 다 알려질 거고.
“그것도 있지만 결국은 또 HBM에 대한 문제일 수도 있거든요. 저희가 5월에 한번 패키징 세미나 했지 않습니까? HBM 쪽 나와서 얘기 들은 거 보면 SK하이닉스의 MR-MUF(머프) 방식과 아직 필름을 쓰는 삼성의 방식이, 삼성은 워낙 그 라인을 많이 깔아놨기 때문에 쉽게 못 바꾼대요. 그런데 SK하이닉스는 그렇지가 않아서 빠르게 확 바꿔가지고 뭔가 이렇게 했는데 결국 지금 어드밴스드패키지(AVP) 사업팀은 패키지로 돈을 벌어야 되는 사업팀이에요. 테스트 앤 시스템 패키지(TSP)하고는 달라요. 기존에 있던 테스트 앤 시스템 패키지(TSP) 조직하고는 다르고. 어드밴스드패키지(AVP) 사업팀은 사업팀이기 때문에 여기서 매출을 해야 되고 저걸 받아와야 우리가 매출을 할 수 있고 저걸 받아오려면 우리가 HBM도 기왕에 하는 걸 좀 가져와서 같이 끼워야 되겠으니까 아마 메모리 사업부하고도 협업을 하고 있는 거고. 파운드리는 좀 힘들 것 같으니까 일단 됐고 그러면.”
-그렇죠. 쉽지 않죠.
“메모리하고 패키지만 우리가 먼저 제공할 수 있다면 하겠다. 아니 왜냐하면 파운드리는 크거든요.”
-오래 걸려요.
“그런데 이런 거를 위해서 상당히 많은 숫자의 엔지니어를 배치를 하겠다. 인터포저도 우리가 다 설계해서 안에 해가지고 다 원하는 대로 맞춰주겠다. 가격 얘기도 당연히 했겠지만, 가격 얘기는 저희가 알 수는 없지만 상당히 파격적으로 제안을 했다고 하는데. 뭐랄까요 하여튼 과거로 치면 메모리 쪽은 콧대가 되게 높은 조직 이거든요. 삼성메모리 하면 정말.”
-족보있는, 뼈대가 강한.
“직원들부터 임원분들 만나보면 상당한 자부심과 이런 걸 많이 들고 있었는데. 이번에 엔비디아로 제안하였다라는 그런 내용들을 들어보면 좀 급하긴 급한 것 같다는 느낌도 좀 들고 그래요.”
-경계현 삼성전자 DS부문 대표도 얼마 전에 아까 얘기했지만 점유율 얘기도 하고 그것도.
“그게 삼성 안에서도 고위 임원들도 그렇고 외부의 뉴스를 안 볼 수가 없어요. 자꾸 모든 경제지, 인터넷신문, 저희 같이 유튜브 이런 쪽에서 엔비디아 물량은 100% 지금 SK하이닉스가 하고 있고 이러니까 위에도 보고 그 위에도 보고 그 위에도 보고 이러니까. “뭐야 이거 뭐 했어?”, “맞아 아니야” 이러니까 저는 좀 약간 어떤 면에서는 점유율 50%를 하고 있다라고 했는데 그게 결국은 트렌드포스 대만에서 하는 시장조사업체 자료의 전체 모수와 삼성이 본인들은 본인들 매출을 알 거 아니에요. 일치하지 않으니까 거기에 아마 모수는 여기 걸 붙이고 우리 매출을 여기 붙이니까 우리가 50% 이상이다라고 얘기한 건지. 그러니까 서로 다른 기준을 갖고 얘기하는 것 같으니까. 그런데 여기도 매출은 자기네 매출은 알고 있고 시장조사업체에 나오는 매출은 숫자 보면 생각보다 그렇게 많지는 않으니까 조사 잘 못하는 거야라면서 아니 우리가 이 정도야라고 얘기하는 걸 수도 있는데. 어찌 됐건 간에 지금 이 엔터프라이즈에 들어가는 AI(인공지능) 연산을 위한 GPU는 엔비디아가 다 먹고 있거든요.”
-맞아요.
“여기 못 넣은 거는 상당히 뼈아픈, 조직원들의 그런 비슷한 얘기들도 있기 때문에. 아마 그런 여론을 아니다라고 해명하기 위해서 그런 얘기를 한 것 같고. 근데 어쨌든 삼성의 HBM3가 올 하반기부터 원래 양산이 되어 있었는데. “지금 고객사들로부터 퀄 평가를 받고 있으니까 고객사들이 우수하다고 평가하고 있다. 그리고 내년에는 우리의 이익 부분에 이익 증가에 기여하게 될 거다.” 이렇게 얘기했는데. 제가 SK하이닉스 쪽이나 이런 쪽의 얘기 들어보면 출하량은 HBM이 전체 비중이 1% 정도가 안 되는데. 가격이 좋으니까 매출은 거의 한 10배 정도가. 출하되는 숫자의 10배 정도 한 10% 정도 이렇게 얘기를 하니까 이 시장을 못 먹는 것은 굉장히 뼈아프다고 생각할 수 있죠. 근데 지금 어쨌든 삼성이 올해 퀄 통과를 해야 먹는 것이고 저는 어쨌든 삼성도 같이 공급이 되기를 기대를 합니다. 잘해야 통과하는데 안 될 수도 있어요. 저희가 또 됐거나 안 됐거나 저희가 추가 취재를 추적해서 나중에 전해드리도록 할 텐데. 조금 딜레이 된다거나 잘 안 된다거나 하면 TSMC가 지금 증설을 하고 있기 때문에 “우리가 해 줄 수 있어 거기 주지 말고 우리가 할게” 이럴 수 있거든요. 그러면 영업 다시 못 받아오는 거예요. 그러니까 좀 빨리 잘 대응했으면 하는 생각이 좀 들고. 대만 친구들이 갖는 혐한 감정이라든지 이런 것들은 사실 한국 사람들은 대만 사람에 대해서 그렇게 별로 신경 안 쓰는데.”
-그걸 더 열받아야 하잖아요. 우리는 신경 안 쓰는데.
“오늘 촬영 날짜가 7월 20일인데 오늘 대만의 리사수 AMD CEO가 '혁신의 날(Innovation Day)' 행사 때문에 가가지고 기자들 만나서 프레스 컨퍼런스라고 해야 됩니까? 기자회견을 했는데 대만 디지타임스의 기자가 “한국에서 AMD 3나노 칩을 파운드리를 한다는데 어떻게 생각하느냐?”라고 하니까 뭐라고 그랬죠? “한국 미디어를 믿느냐?””
-“한국 언론을 믿느냐”
“저는 사실 영상으로 봤거든요. 너무 경솔한 대답 아닌가. 그냥 원론적인 대답하면 되는데 글로벌 기업 CEO라는 분이 “한국 언론을 믿느냐?” 그게 3나노 기사가 왔다 갔다 했거든요. 최초에 어디서 나오는지도 사실 좀... 국내에 있는 모 경제지가 쓰니까 디지타임스가 받아서 쓰고 그걸 또 받아서 한국에 또 온라인 매체가 또 쓰고 그걸 보고서 어제 그거 갖고 질문을 한 거였거든요. 그러니까 그러면 대만 친구들도 그 내용이 틀리다라고 생각해서 내가 볼 때는 그렇게 물어본 건지 잘 모르겠는데. 일단 잘 못 믿겠으면 본인들 픽업을 안 해야 되는데 본인도 다 픽업해놓고 맞냐 아니냐 하니까 대만에 리사수 CEO가.”
-대만계 미국인이죠.
“제가 들어보니까 중국말을 잘 못 한다 그래요. 오늘도 유튜브 영상 보니까 질문은 다 중국어로 하는데 대답은 다 영어로 하고 있는 걸 보면 지금 리사수 CEO, 젠슨황 CEO.”
-둘이 사촌이래요 먼 친척이랍니다.
“그리고 장중머우(모리스 창) 회장. 이 3인 대만계거나 대만인 사람들이 지금 팹리스하고 파운드리 쪽을 다 좌지우지하고 있는데. 하여튼 국내 기업들이 그런 면에서도 좀 잘 들어가서 하면 제품도 넣고 하면 좋겠습니다. 그리고 또 하나 얘기를 해드리자면 HBM도 지난번에 제가 말씀 잠깐드렸는데. 지금 8단 주력으로 하고 있고 12단도 지금 들어가고 있는데 이게 16단, 18단, 24단 이렇게 계속 올라가면 높이가 높아지잖아요. 왜냐하면 중간에 카파 필러 범프(Copper pillar bump, 구리 기둥 범프)가 있으니까 그 높이가 높아진 만큼 또 패키지 두께가 두꺼워지니까 좀 줄여야 되는 요구들이 있거든요. 그러기 위해서 삼성전자 같은 경우는 2024년, 2025년에 범프(Bump)가 없는 범프리스(Bump-less). 소위 말하는 카파 투 카파(Cu to Cu) 혹은 하이브리드 본딩 혹은 다이렉트 본딩 기술로 HBM. 삼성도 그렇고 SK하이닉스도 그렇고 준비하고 있고 그거 관련해서 저희가 7월 26일 날 하이브리드 본딩 기술 콘퍼런스를 개최를 합니다. 많은 분들이 신청을 해 주셨는데 아직 자리가 남아 있으니까 혹시 관심 있으신 분들은 오셔서 차세대 반도체 패키지 본딩 기술에 대해서. 이거는 거의 전공정에 해당하는 거기 때문에 아까 이런 2.5D 패키지는 대만 SPIL이나 미국 앰코테크놀로지에 맡겨도 하이브리드 본딩은 못 맡겨요. 전공정은 그 CMP하고 어쨌든 플라즈마를 어닐링하는 공정을 갖고 있어야 되기 때문에. 전공정은 공장이 없는 곳에서는 이거 하기 힘드니까 한국에서도 잘할 수 있는 사업인 것으로 저희는 알고 있고 하여튼 관심 있으신 분들은 와서 들어주시기를 바랍니다. 제가 오늘 준비한 내용은 여기까지입니다.”
-저희 하이브리드 본딩 컨퍼런스 한 50자리 정도 남아 있더라고요. 꽉꽉 차고 있는데. 많은 관심 가져주시고 오늘 라이브 이상으로 마치도록 하겠습니다. 감사합니다.
“고맙습니다.”