생성형 AI용 GPU 대체…GDDR6-AiM 기반
SK하이닉스가 생성형 인공지능(AI) 공략을 다양화한다. AI용 그래픽처리장치(GPU)용 D램 고대역폭메모리(HBM)에 이어 GPU를 메모리반도체로 대체할 준비를 서두르고 있다.
SK하이닉스는 지난 12일부터 14일까지(현지시각) 미국 산타클라라에서 열린 ‘AI 하드웨어 & 엣지 AI 서밋 2023’에 참가했다고 18일 밝혔다.
이 행사는 AI와 머신러닝 성과를 공유하는 자리다. SK하이닉스는 PIM(Processing-In-Memory) 기반 생성형 AI 가속기 카드 ‘AiMX’를 처음 공개 시연했다. PIM은 연산 기능이 있는 메모리다. AiMX는 SK하이닉스가 2022년 2월 처음 선보인 ‘그래픽더블데이터레이트(GDDR)6-AiM(Accelerator in Memory)’와 전용 컨트롤러(ASIC)로 구성했다.
SK하이닉스는 메타의 생성형 AI ‘OPT(Open Pre-trained Transformer) 13B’를 AiMX 서버로 시연했다. GPU 장착 시스템 대비 속도는 10배 빠르고 전력 소모량은 80% 감소했다.
임의철 SK하이닉스 부사장은 “SK하이닉스의 AiMX는 기존 GPU를 쓸 때보다 고성능 저전력에 비용도 절감할 수 있는 솔루션”이라며 “앞으로도 SK하이닉스는 AI 시대를 이끌어갈 메모리 기술 개발을 이어갈 것”이라고 말했다.
디일렉=윤상호 기자
[email protected]
《반도체·디스플레이·배터리·자동차전장·ICT부품 분야 전문미디어 디일렉》
저작권자 © 전자부품 전문 미디어 디일렉 무단전재 및 재배포 금지