인공지능(AI) 반도체 스타트업 퓨리오사AI가 지난 26일 미국 스탠포드대학교에서 열린 핫 칩스 2024 컨퍼런스에서 AI 반도체 레니게이드(RNGD)를 공개했다고 28일 밝혔다.  레니게이드는 퓨리오사의 2세대 AI 반도체다. 거대언어모델(LLM)과 멀티모달모델의 효율적인 추론을 위해 설계된 데이터센터용 가속기다. HBM3가 탑재됐다.  백준호 대표는 핫 칩스에서 '퓨리오사 레니게이드: 지속 가능한 AI 컴퓨팅을 위한 텐서 축약 프로세서'라는 주제로 제품 소개 및 초기 벤치마크를 공개하며, Llama 3.1 70B의 라이브 데모를 선보였다. 회사는 초기 테스트 결과, 레니게이드는 GPT-J 및 Llama 3.1과 같은 주요 벤치마크 및 LLM에서 경쟁력 있는 성능을 보였으며, 단일 PCIe 카드 기준으로 약 100억 개의 파라미터를 가진 모델에서 초당 2000~3000개의 토큰을 처리할 수 있다고 설명했다.  백준호 퓨리오사AI 대표는 "레니게이드는 업계의 실질적인 추론 니즈를 충족시킬 수 있는 지속 가능하고 현실적인 AI 컴퓨팅 솔루션"이라고 말했다.

디일렉=노태민 기자 [email protected]
《반도체·디스플레이·배터리·전장·ICT·게임·콘텐츠 전문미디어 디일렉》