IBM은 10일 데이터센터에서 생성형 인공지능(AI) 모델의 학습과 추론 연산을 획기적으로 개선할 수 있는 차세대 광학 기술을 발표했다. 기존의 전선 기반 단거리 통신을 보완하는 새로운 공동 패키지형 광학(Co-Packaged Optics, CPO) 기술로 데이터센터 내부 연결 속도를 빛의 속도로 대폭 향상할 수 있는 새로운 공정이다.
IBM 광학 모듈 시제품 (자료= IBM 리서치)
광섬유 기술은 전기 대신 빛으로 장거리 데이터 전송을 빠르게 처리하기 때문에 현재 전세계 통신 트래픽에 대부분 사용되고 있다. 그러나 데이터센터의 경우 외부 통신 네트워크에는 광섬유를 사용하는데 반해, 내부 통신 네트워크의 대부분은 여전히 구리선을 사용한다.
데이터센터 내부의 짧은 거리(보통 1미터 이내)에서는 구리선의 속도와 전력 손실 문제가 상대적으로 덜 중요했기 때문에 비용 측면에서 선호됐다. 문제는 구리 전기선 GPU 가속기의 학습 과정에서 다른 장치의 데이터를 기다리느라 절반 이상의 시간을 유휴 상태로 만들며, 이로 인해 상당한 비용과 에너지가 소모된다는 점이다.
CPO는 모듈 외 통신을 전기에서 광학으로 대체할 수 있는 가능성을 제공함으로써 AI의 증가하는 성능 요구사항을 충족한다. IBM은 CPO를 구동할 수 있는 폴리머 광학 도파관(Polymer Optical Waveguide, PWG)을 성공적으로 설계해 최초 공개했다. CPO를 통해 다음과 같은 주요 성과가 기대된다.
전기 배선 대비 전력 소비를 5배 이상 축소
전기 배선 대비 거대언어모델 학습속도 최대 5배 향상
데이터센터 간 케이블 연결 길이를 기존 1미터에서 수백 미터로 확장
거대언어모델 학습시 미국 가정 약 5000가구에 해당하는 전력소모량 절감
다리오 길 IBM 리서치 부회장은 "생성형 AI가 점점 더 많은 에너지와 처리 능력을 요구함에 따라 데이터센터는 진화해야 한다. CPO는 데이터센터 미래에 대비하도록 만들 수 있다"며 "광섬유 케이블이 데이터센터 안팎으로 통신 매개로 사용될 것이며, 미래의 AI 워크로드를 처리할 수 있는 더 빠르고 지속 가능한 새로운 통신 시대를 열 것이다"고 말했다.
