기존 모델 대비 40% 향상된 성능, 16% 뛰어난 전력 효율 제공
인공지능(AI) 반도체 기업 그래프코어가 TSMC의 최첨단 3D 패키징 기술이 적용된 AI 반도체를 출시했다. 해당 반도체는 그래프코어의 기존 제품 대비 더 뛰어난 성능과 전력효율성을 갖췄으며, 이미 다수의 고객사를 통해 상용화 단계에 들어갔다.
그래프코어는 세계 최초의 3D 웨이퍼-온-웨이퍼(WoW) 반도체인 'Bow(보우) IPU'를 출시했다고 4일 밝혔다.
Bow IPU는 차세대 Bow POD AI 컴퓨터 시스템의 핵심으로, 주요 AI 애플리케이션에서 기존 프로세서 대비 40% 향상된 성능과 16% 뛰어난 전력 효율을 제공한다. 특히 Bow POD은 컴퓨터 비전 모델 'EfficientNet' 훈련에서 엔비디아의 'DGX A100' 시스템 대비 5배 이상 뛰어난 성능을 보인 반면, 비용은 절반으로 총소유비용(TCO) 절감효과가 10배에 이르는 것으로 나타났다.
또한 Bow IPU 프로세서에는 TSMC의 3D 패키징 기술인 WoW가 적용됐다. WoW는 2개의 웨이퍼를 수직으로 적층한 뒤, 미세한 구멍을 뚫어 상하부를 전극으로 연결하는 TSV 기술을 활용하는 기술이다. 이를 통해 칩의 집적도를 높이고 웨이퍼 간의 지연시간을 낮출 수 있다.
그래프코어의 플래그십 제품 Bow POD256과 초대형 Bow POD1024는 각각 89페타플롭스(PetaFLOPS)와 350 페타플롭스의 AI 연산을 지원한다. 그래프코어는 두 모델을 통해 AI 모델의 크기가 기하급수적으로 증가하는 추세에 대응하는 동시에 머신 인텔리전스 분야에서 새로운 혁신을 달성한다는 계획이다.
그래프코어 Bow 시스템의 첫 도입 사례는 미국 에너지부 산하 퍼시픽 노스웨스트 국립 연구소로, 사이버보안 및 컴퓨터 화학 관련 애플리케이션에 Bow를 적용한다. 기존의 기술로 다루기 어려운 과학 문제를 해결하기 위해 머신러닝과 GNN(그래프 신경망)의 한계에 도전하고 있는 PNNL은 그래프코어 시스템을 통해 학습과 추론에 걸리는 시간을 몇 일에서 몇 시간으로 단축시켰다.
클라우드 서비스 제공업체 시라스케일(Cirrascale) 역시 회사의 그래프클라우드 IPU 베어메탈 서비스의 일부로 Bow POD 시스템을 제공한다. 이 외에도 유럽 CSP 지코어랩스가 내년 2분기 내 Bow IPU 클라우드 인스턴스를 출시할 계획이다.
