강민우 그래프코어 지사장 "NHN에 IPU 공급, 글로벌 마케팅도 협력"
AI 클라우드 서비스 분야 협력
2021-06-18 이나리 기자
Q. 그래프코어의 한국 지사는 지난해 1월 설립됐다. 지사 설립 이후 한국 시장에서 그동안의 성과 어땠나?
"지금까지 국내서 고객사에 납품한 수가 두자릿수를 기록했고, POC 검증(사전에 성능이 잘 돌아가는지 하드웨어, 소프트웨어 검증)은 약 50건 이상 했다. 고객사는 주로 인터넷기업, 제약 제조, 클라우드 서비스 등이 대표적이다. 올해 KT가 하이퍼스케일 인공지능(AI) 서비스를 시작하기 위해 인터넷데이터센터(IDC)를 도입했는데, 여기에 그래프코어의 지능형처리장치(IPU)가 채택됐다." "한국은 인공지능 분야에서 앞서 나가고 있는 국가 중 하나다. 글로벌 AI 인덱스에 따르면, 한국의 AI 인프라는 전세계 5위, AI 개발은 3위다. 기술력은 더 많이 발전되야 하지만, 인프라가 잘 갖춰져 있고, 국가에서도 투자가 적극적인 편이다."Q. NHN의 데이터센터, 클라우드 사업에서 그래프코어는 어떤 부분의 협력을 하는 것인가? 그래프코어의 IPU-POD가 채택될 수 있었던 결정적인 요인은 무엇인가?
"NHN의 데이터센터에 그래프코어의 IPU가 단독으로 공급되는 것은 아니다. 그래픽처리장치(GPU)도 같이 쓰이고, 국산 AI 솔루션도 사용이 검토 중인 것으로 알려져 있다. 그 중에서 그래프코어의 포지션이 가장 크다. NHN이 하는 사업은 AI 기반의 클라우드 서비스다. 이 서비스의 가상화 엔진은 오픈스택 기반이다. 양사는 협력을 통해 오픈스택과 AI 클라우드 서비스를 공동개발하기로 했다." "NHN의 데이터센터에 이 기술을 구축하는 것만이 목표가 아니다. AI 및 머신러닝 민간 기관에 클라우드 서비스를 공급할 때 AI의 연산 능력을 효과적으로 사용하는 방법을 공동 연구하고, 상품화하는 것을 계획하고 있다. 또 그래프코어는 NHN가 클라우드 서비스를 아시아 국가 중심으로 글로벌로 공급할 때 마케팅 활동에도 협력한다. 이를 통해 시너지를 극대화할 예정이다. NHN 클라우드 리전은 판교, 김해, 순천뿐 아니라 일본 도쿄에 위치하고 있다. 현재 광주 데이터센터는 2023년 준공을 목표로 증설 중이다."Q. NHN와 AI 클라우드 서비스를 공동으로 연구하기 위해서 최근 엔지니어 인력을 더 충원을 했나?
"그렇다. 최근 한국 지사에 엔지니어를 충원했고, 그래프코어의 영국 본사에서도 NHN 프로젝트 팀의 인력이 할당이 됐다. 본사에서 이 프로젝트를 의미 있게 생각하고 있기 때문이다. 개발된 오픈스택을 글로벌의 다른 사업자들도 사용할 수 있어서 향후 비즈니스 활용도가 높다. "Q. AI 클라우드 서비스의 개발 기간은 언제까지 인가?
"1차 사업은 6개월 정도 개발해서 올해 말까지 끝내는 것이 목표다. 2차 사업은 내년 상반기까지 개발할 계획이다. 1차 사업은 오픈스택을 개발하는 것이다. 2차 산업은 이 기술을 컨테이너, 가상화 엔진에 접목시킬 수 있도록 세분화시키는 작업이다. NHN의 클라우드를 사용하는 고객사와 소비자는 현재 이 AI 서비스를 파일럿 상태로 사용 가능하다. 완벽한 상품으로 출시된 서비스는 올 하반기부터 사용할 수 있다."Q. IPU는 아직 많이 생소하다. GPU와의 차이점은 무엇인가?
"IPU와 GPU는 각각의 장단점이 있다. IPU는 그래픽 처리를 위해 설계된 GPU와 달리 병렬처리에 최적화된 AI 전용 프로세스 칩이다. IPU는 프로세서와 메모리가 하나로 합쳐 있어서, 행렬 연산할 때 처리 속도가 빠르다. 반면 GPU는 여러 개의 프로세서와 적은 수의 큰 메모리가 탑재돼 있어, 한 번에 큰 모델의 연산 처리에 적합하다. 최신의 AI 알고리즘은 그래프를 작게 쪼개서 빠르게 연산하는 방식이기 때문에 IPU의 속도가 압도적으로 빠르다. 또 IPU는 GPU 기반의 동일 구성에 비해 비용이 저렴하면서 에너지 효율성도 더 높다. 이런 장점은 최근 IPU가 클라우드에서 각광받는 이유다."Q.그래프코어의 IPU의 스팩을 설명해달라.
"GC200는 AI 워크로드에 최적화된 IPU다. 594억개의 트랜지스터로 이뤄져 있다. 각기 1472 병렬 처리 코어와 900MB 초고속 온다이 메모리를 통해 약 9000개의 독립된 병렬 처리 스레드를 수행할 수 있다. 데이터센터 솔루션인 IPU-POD64는 16 페타플롭(PFLOPS)의 AI 컴퓨팅 성능을 갖췄다. 그래프코어의 IPU는 TSMC의 7나노 공정의 파운드리에서 생산되며, 노드는 폭스콘에서 생산된다."Q.향후 국내 시장에서 어떤 분야를 타겟으로 공략할 계획인가?
"파트너사인 메가존과 함께 IPU에 적합한 모델을 보유한 고객사를 찾고, 지원하는 것에 집중할 계획이다."