또 앞서가는 엔비디아...추론성능 30배 높인 새 AI칩 'B200' 출시

TSMC 4NP, CoWoS-S 공정 통해 칩 생산 신제품 B200에 '24GB HBM3E' 8개 탑재

2024-03-19 노태민 기자

인공지능(AI) 반도체 기업 엔비디아가 차세대 AI 칩 'B200'과 이를 응용한 AI 플랫폼 'GB200'을 공개했다. GB200은 B200 2개와 Arm 기반 그레이스 중앙처리장치(CPU)를 결합한 제품으로 '엔비디아 GB200 NVL72' 구축 시 엔비디아 H100 텐서 코어 그래픽처리장치(GPU) 대비 추론 성능을 최대 30배 높일 수 있다. 엔비디아는 18일(현지시간) 미국 캘리포니아 새너제이 SAP 센터에서 개발자 콘퍼런스 'GTC(GPU Technology Conference) 2024'를 개최하고 신규 AI 칩 B200을 선보였다. GTC는 엔비디아가 개최하는 연례 개발자 콘퍼런스로 AI 관련 업계 동향을 살펴볼 수 있다. 코로나19 이후 5년 만에 오프라인으로 개최됐다. 올해 행사에선 900개 세션과 250개 이상의 전시, 수십 개의 기술 워크숍 등이 진행된다. B200은 두 개의 다이(TSMC 4NP 공정에서 생산)와 8개의 24기가바이트(GB) HBM3E로 구성돼 있다. 다이와 HBM3E 연결을 위해 TSMC 칩 온 웨이퍼 온 서브스트레이트(CoWoS)-S 기술이 적용됐다. 엔비디아는 B200에 대해 2080억개의 트랜지스터가 탑재된 역사상 가장 강력한 칩이라고 소개했다.

젠슨 황 엔비디아 CEO 신제품에 대해 "블랙웰(B200) GPU는 이 새로운 산업 혁명을 구동하는 엔진"이라고 설명했다. 이어 "세계에서 가장 역동적인 기업들과 협력해 모든 산업에서 AI의 가능성을 실현할 것"이라고 말했다. '블랙웰'은 흑인으로는 최초로 미국국립과학원에 입회한 '데이비드 헤롤드 블랙웰'을 기리기 위해 붙여진 이름이다. 엔비디아는 이날, 수냉식 랙 스케일 시스템 '엔비디아 GB200 NVL72'도 공개했다. 이 시스템은 GB200 36개를 결합한 제품으로 72개의 B200 GPU와 36개 그레이스 CPU가 구성돼 있다. 엔비디아는 GB200 NVL72가 추론 워크로드에서 엔비디아 H100 텐서 코어 GPU 대비 최대 30배 성능이 향상됐다고 설명했다. 또 비용과 에너지 소비를 최대 25배까지 줄일 수 있다고 강조했다. 한편, 엔비디아는 시간 외 거래에서 정규장 대비 1.4% 하락한 872.21달러에 거래되고 있다.

디일렉=노태민 기자 tmnoh@bestwatersport.com
《반도체·디스플레이·배터리·전장·ICT·게임·콘텐츠 전문미디어 디일렉》