"소프트웨어, 하드웨어 포괄하는 풀 스택 솔루션 개발 목표"
인공지능(AI) 서비스 상용화가 본격화되면서 더 진화된 AI 반도체 솔루션 개발 필요성이 커지고 있다. 각 응용 서비스에 최적화된 AI 반도체 솔루션을 개발해 반도체 및 AI 서비스 효율성을 극대화시킬 수 있기 때문이다.
네이버 자회사인 네이버클라우드도 이러한 추세에 대응하기 시작했다. 소프트웨어, 하드웨어를 포괄하는 풀스택 AI 반도체 솔루션 개발이 네이버클라우드의 지향점이다. 이를 위해 지난해 12월부터 삼성전자와 AI 반도체 솔루션 공동 개발에 나섰다.
권세중 네이버클라우드 리더는 《디일렉》이 11일 서울 역삼 포스코타워에서 개최한 '딥테크포럼 2023'에서 '초거대 언어모델 분석에서 시작하는 AI 반도체 설계'를 주제로 발표했다.
권 리더는 "서비스 경험부터 소프트웨어, 하드웨어를 포괄하는 풀 스택의 솔루션을 만드는 것이 목표"라며 "추후 (AI 영역에서) 압축이나 가속 등에 대응하는 하드웨어 구현이 중요한 해법이 될 것"이라고 강조했다.
권 리더가 풀 스택 AI 반도체 솔루션을 강조한 이유는 엔비디아 A100, H100 등 주요 AI 반도체의 제너럴한 특성 때문이다. A100, H100는 범용 반도체로 설계돼 초거대 언어 모델(LLM)과 같은 응용처에서 최적화된 성능에 발휘하지 못한다. 자사 서비스에 최적화된 솔루션 혹은 반도체가 필요하다는 이야기다.
자체 반도체 솔루션 혹은 반도체 설계는 주요 글로벌 기업들이 추진하는 과제다. 글로벌 빅테크인 마이크로소프트(MS), 메타, 구글, 아마존(AWS) 등은 자사 서비스에 최적화된 자체 AI 반도체 설계에 뛰어들었다. 이를 통해 전성비(전력 대비 성능), 발열 등을 개선할 수 있다.
네이버클라우드도 '하이퍼클로바X'를 위한 AI 반도체 솔루션 개발에 나섰다. 삼성전자와의 공동 개발을 추진 중이다. 네이버클라우드는 AI 모델에서 불필요한 파라미터를 제거하거나, 파라미터 간 가중치를 단순하게 조정하는 경량화 알고리즘을 차세대 반도체 솔루션에 적용한다. 삼성전자는 HBM-프로세싱인메모리(PIM), 프로세싱니어메모리(PNM), 컴퓨트익스프레스링크(CXL) 등 차세대 기술력을 바탕으로 데이터 병목을 해결하고 전력 효율을 극대화하는 차세대 메모리 솔루션을 개발한다.
네이버클라우드와 삼성전자가 AI 반도체 솔루션 개발에 뛰어든 이유는 고대역폭메모리(HBM)의 한계 때문이다. HBM은 현재 AI 반도체에 적용할 수 있는 가장 좋은 솔루션이지만, 추후 AI 산업이 본격화되면 HBM 만으로는 AI 서비스 대응이 힘들다. 업계에서는 D램 용량과 D램 대역폭의 중요성이 더욱 커질 것으로 전망하고 있다.
마지막으로 권 리더는 "LLM 등 모델은 계속해서 커지는 형태로 진화할 것"이라며 "AI 솔루션은 작고 파편화된 모델 워크로드가 아닌 단일화된 모델 워크로드를 잘 대응해야 한다"고 말했다.
디일렉=노태민 기자 [email protected]
《반도체·디스플레이·배터리·자동차전장·ICT부품 분야 전문미디어 디일렉》
