최근 업계 최초 4/8비트 혼합 NPU IP 상용화…기존 메모리 시스템 IP와 시너지
예비기술평가서 AA등급 획득…기술력 및 시장 경쟁력 입증
"업계 유일 IP 플랫폼으로 국내 및 해외 시장 적극적으로 개척할 것"
Q. 대표님은 삼성전자 LSI사업부에서 D램 컨트롤러 및 인터커넥트 IP 등을 개발해오셨죠. 이들 기술과 오픈엣지테크놀로지가 개발하는 NPU IP간에는 어떠한 시너지가 있습니까?
A. NPU는 데이터를 집약적으로 연산하는 장치입니다. CPU와는 달리 인공지능 신경망을 처리하면서 데이터가 굉장히 많이 필요하기 때문에, 데이터가 적시에 잘 공급되지 않으면 아무리 NPU가 성능이 좋아도 연산이 원활히 될 수 없습니다. 이 데이터를 공급하는 건 결국 칩 안의 메모리반도체인 D램입니다. 연산 과정 중간중간에서 데이터를 저장하는 D램이 NPU를 받쳐줘야 하죠.
현재 NPU 관련 업체들은 대부분 NPU만을 개발하고 있습니다. 하지만 앞서 말씀드렸듯이 이런 방식으로는 좋은 AI반도체 성능이 나올 수 없죠. NPU와 메모리를 같이 놓고 통합 개발을 하면서 최적화를 맞춰야 시너지 효과를 낼 수 있는 겁니다. 저는 삼성전자에서 차세대 메모리 개발을 해왔습니다. D램 세대가 LPDDR3에서 LPDDR4로 넘어갈 때, 그리고 LPDDR5로 넘어갈 때 이와 관련된 표준 개발을 계속 했었죠. 인터커넥트 개발도 함께 담당했습니다. SoC(시스템온칩) 내부에는 70개 정도의 기능 블럭들이 있는데, 이 블럭들이 서로 빠르고 효율적으로 통신할 수 있도록 지원하는 게 바로 인터커넥트 칩입니다. 이들 인터커넥트와 메모리 인터페이스를 결합한 것을 '메모리 시스템'이라고 부릅니다. 전체 칩에서 매우 중요한 역할을 담당하는 '뼈대'라고 부를 수 있죠. 이 메모리 시스템이 얼마나 잘 꾸며졌냐에 따라 전체 시스템 성능이 달라집니다. 그래서 제가 쌓아온 메모리 시스템 개발 전문성과 NPU를 결합해 시너지를 내면, 고객사에게 굉장한 이점을 줄 수 있다고 생각합니다.Q. 최근 업계 최초의 4/8비트 혼합 NPU IP인 '인라이트'를 상용화하셨습니다. 이에 대해 설명해주신다면.
A. NPU 시장은 타겟에 따라 서버와 엣지 두 가지로 나뉩니다. 서버 쪽 환경은 공간이 충분히 주어지고 소비전력이 풍부하다보니, 성능을 최대로 높이는 것이 관건입니다. 반면 엣지는 제한된 자원에서 최대한 효율적인 데이터 연산을 수행해야 하죠. 데이터를 실시간으로 처리하는 기술도 중요합니다. 자율주행차를 떠올려 봤을 때 주변 상황을 정말 빠르게 인식하고 대응해야하지 않습니까. 이처럼 서버와 엣지는 동작하는 환경이나 응용 분야가 모두 다릅니다.
그러면 엣지에서 데이터 처리의 효율성을 높이기 위해서 가장 중요한 것이 "데이터 하나, 연산 유닛 하나를 어떻게 설정하느냐" 입니다. 데이터 하나를 4비트, 혹은 8비트, 혹은 16비트로 표현하느냐에 따라 면적이라던지 소비전력이 굉장히 많이 달라집니다. 신경망의 기본적인 연산 단위는 곱하기 더하기인데(합성곱 신경망), 비트 표현의 길이의 곱에 따라서 달라집니다. 예를 들어 16비트 연산 표현을 8비트로 변환하면 면적이 4분의 1로 줄어들고, 4비트로 변환하면 또 4분의 1로 줄어들어 면적효율성이 매우 좋아집니다. 소비전력의 효율성도 좋아지죠. 그래서 어떻게든 비트 표현을 작게 만들어주는게 전반적인 효율성을 높이는 데 도움이 됩니다. 그런데 왜 업계에서 비트를 내리지 못했는가 하면, 비트를 무작정 내리게 되면 신경망의 정확도에 영향을 주게 됩니다. 그래서 정확도에 영향을 주지 않으면서도 비트를 더 낮게 내리는 것이 포인트라고 할 수 있겠습니다. 그래서 저희는 가능하면 많은 연산을 4비트로 내리되, 꼭 필요한 부분은 8비트로 표현하는 방안을 구상했습니다. 최대한 4비트를 많이 만들자고 하는 게 저희의 목표입니다. 그래서 신경망에 따라 다르기는 한데, 일부 신경망은 70% 이상까지 4비트로 연산하면서 정확도를 떨어트리지 않는 컴파일러 및 양자화 기술을 개발했습니다. 이러한 양자화 기술 덕분에 효율적인 혼합 정밀도 연산 구조를 만들 수 있었습니다. 특히 NPU같은 경우는 하드웨어만이 아니라 컴파일러, 양자화 툴킷과 같은 소프트웨어 기술이 함께 갖춰져야지 혼합 정밀도 기능이 잘 활용이 될 수가 있습니다. 물론 이 두가지를 함께 개발하는 것이 쉽지는 않은데, 저희는 업계 최초로 4/8비트 혼합정밀도 NPU를 지원하는 하드웨어 설계 및 소프트웨어를 만들어 고객사에 납품하는 성과를 거뒀습니다.Q. 오픈엣지의 NPU IP가 가장 활발하게 적용될 수 있는 시장 분야는 무엇입니까?
A. 적용처가 굉장히 다양한데, 저희는 주로 비전 응용에 타겟을 집중하고 있습니다. 저희의 첫번째 고객 응용 사례는 보안카메라 쪽이었습니다. 그쪽에서 잘 쓰고 계시고, 두번째 응용이 자율주행보조 쪽이었는데, 이 쪽에서도 잘 활용되고 있습니다. 비전 기반의 응용은 잘 적용이 되고 있습니다.
여기까지가 1세대 2세대 NPU IP들이었고, 현재 개발하고 있는 3세대 NPU IP는 이전 세대 대비 연산 속도가 10배 정도 빠릅니다. 자율주행 4~5 레벨 정도에 활용되는 고성능 NPU는 정밀도도 물론 중요하지만, 소비전력이나 면적 면에서의 효율성도 굉장히 중요합니다. 여기에도 저희의 기술을 적용하려고 준비를 하고 있습니다.Q. IP 전문업체로서 최근의 메모리반도체 업계와 시장을 바라보시는 시각도 궁금합니다.
A. 메모리 시장도 변혁기를 맞이하고 있습니다. 기존처럼 단순히 수동적인 역할만을 하는 것이 아니라, 능동적인 메모리의 역할을 하려고 하죠. HBM-PIM이나 CXL 메모리 등 메모리 컴퓨팅에 대한 논의가 최근 활발히 일어나고 있습니다. 오픈엣지 입장에서도 메모리 기반의 연산 구조가 변화하는 현상에 많은 관심을 가지고 참여를 하고 있습니다. 특히 CXL 메모리 세그먼트 컴퓨팅을 예의주시하고 있습니다.
공정의 스케일링이 내려가는 시기가 점점 더 느려지고 있는데, 성능에 대한 니즈는 오히려 더 커지고 있죠. 이러한 상황에서 발생하는 문제가 뭐냐면 SoC 구현이 어려워진다는 겁니다. 이전에는 시스템온칩에서 잘 작동됐는데, 지금은 한 칩안에서 모든 걸 해결하는 게 어려워졌죠. 때문에 칩을 쪼개다보니 다이 간의 통신을 어떻게 저전력, 저지연으로 구현할 것인가 하는 '다이 투 다이'의 커뮤니케이션이 중요해졌습니다. 여기에 저희가 가진 메모리 인터페이스가 잘 적용될수 있습니다. NPU와 메모리 시스템, AI반도체 뼈대를 만드는 기술이 좀 더 확장되면 다이 투 다이, 멀티 다이의 NPU까지 커버가 가능하다고 생각합니다.Q. 반도체 IP 시장에서 가장 유망한 지역이 중국과 미국으로 꼽힙니다. 이들 시장에 대응하기 위한 전략이 있으신지요.
A. 오픈엣지가 국내 회사다 보니 이미 국내에는 뿌리를 잘 내리고 있습니다. 여기에 더해 회사 성장 관점에서는 해외 진출이 중요하기 때문에 이 부분도 열심히 해왔습니다. 전체 매출 비중에서 30% 이상이 해외에서 발생하고 있고, 앞으로도 매출 비중은 더 확대될 것이라고 보고 있습니다.
현재 한국 본사 외에도 북미 지역에 자회사가 2군데 있습니다. 캐나다 토론토와 미국 산호세 지역입니다. 세일즈 포함한 전반적인 비즈니스를 커버하고 있습니다. 일본, 중국 등 아시아 지역은 본사가 직접 커버하고 있습니다. 코로나19로 이동이 불편하지만, 지역 별로 현지 직원들과 에이전트들이 파견되어 있어 잘 대응을 하고 있습니다. 시간이 좀 지나면 법인 설립도 검토할 수 있다고 봅니다.Q. 사세 확장을 위해서는 인력 확보가 중요할텐데, 이에 대한 전략은 어떻게 생각하고 계십니까?
A. 국내에서는 인력 양성에 초점을 두고 있습니다. 회사에 적응할 수 있는 교육 프로그램을 운영하고 있고, 학부 신입생들이 들어오는 경우에는 회사에서 2~3개월 정도의 집중 실무 교육도 실시합니다. 이후 각 팀으로 이동한 뒤에도 1년 이상의 교육 과정이 있죠. 신입 재원들이 회사의 허리 역할을 할 수 있도록 하고 있습니다.
해외 자회사 같은 경우에는 현지의 키 엔지니어를 확보하려고 하고 있습니다. 지역마다 고유의 전문 인력이 있기 때문인데, 토론토의 경우 AI와 고속의 아날로그 D램 PHY 분야에 전문성이 있습니다. 산호세는 EDA, CPU 관련 소프트웨어 분야의 엔지니어들이 두각을 나타내고 있습니다. 이렇게 국내외에서의 두 가지 전략으로 작년 대비 2배 정도 인력을 확충하려고 합니다. 지금은 100명 정도인데, 올해 말까지는 200명으로 규모가 커질 것으로 예상하고 있습니다. 회사의 급여 체계는 업계 탑 수준이라고 보고 있습니다. 다만 이뿐만이 아니라, 엔지니어 입장에서 가장 중요한 건 좋은 동료와 함께한다는 것이라고 생각합니다. 오픈엣지에는 업계의 베테랑들이 모여있습니다. 팀장 급들은 소위 글로벌 대기업이라고 불리는 곳에 계셨었고, 그 밑에 계신 분들도 AMD, 시높시스, 삼성전자, SK하이닉스, LG전자 등에서 20년 이상 근무하신 분들이죠. 이 분들이 전문 지식을 나눠주고, 오픈마인드로 서로 토의하고, 함께 즐겁게 일할 수 있는 부분이 오픈엣지의 특별한 장점이라고 생각합니다.Q. 최근 예비기술평가서 반도체 업계 최초로 AA등급을 획득하셨는데, 그 배경이 궁금합니다.
A. 이번 예비기술성평가에서 AA 등급을 부여한 기관이 나이스디앤비라는 곳입니다. 반도체 업계의 최초 사례이기도 하지만, 나이스디앤비가 평가 업체에 AA 등급을 부여한 것도 처음있는 일입니다. 그래서 더욱 의미가 있는 것 같습니다.
특히 예전 예비기술평가는 기술적인 부분만을 평가했었는데, 작년에 평가 기준이 변경되면서 시장적인 측면도 함께 고려하는 것으로 바뀌었습니다. 기술이 좋은 기업들이 실제 상장 후에도 제대로 실적을 내지 못하는 일이 많았기 때문이죠. 예비기술평가의 기준이 더 까다로워졌다고 할 수 있는데, 이러한 상황에서도 오픈엣지는 기술력과 시장 양쪽에서 좋은 평가를 받았습니다. 현재 오픈엣지는 설립 초기임에도 메모리 시스템 분야에서는 전세계 매출의 1%를 차지하고 있습니다. 라이선스 개수는 작년 기준 30여건이 넘었죠. NPU IP와 메모리 시스템 IP를 합쳐 총 4가지의 IP로 소수의 경쟁자들 사이에서 우위를 보이고 있습니다. 더 중요한 건 개별 IP를 넘어 묶어서 플랫폼의 개념으로 제공할 수 있다는 것입니다. 이는 기존 시장에는 없던 새로운 카테고리입니다. 메모리 인터커넥트를 개발하는 회사와 인터페이스 IP를 각각 개발하는 회사가 존재하긴 하지만, 이들이 서로의 기술을 공유하지는 못하죠.Q. 상장으로 확보한 자금은 주로 어떻게 활용하실 계획입니까?
A. 회사의 성장을 위해서는 투자가 매우 중요합니다. 저희는 글로벌 시장을 적극적으로 공략할 계획인데, 추가적인 자회사를 설립하거나 해외업체와 M&A를 진행하는 방안 등을 고려하고 있습니다.
Q. 회사의 매출 성장에 대한 로드맵을 제시해주신다면.
A. 저희의 매출 성장 로드맵은 기본적으로 매년 2~3배의 성장입니다. 지금까지 그래왔고, 향후에도 이 기조를 유지하는 것이 저희의 목표입니다. 아마 4~5년 정도 뒤에는 업계 글로벌 IP회사들과 어깨를 나란히 할 수 있을 거라고 보고 있습니다. 저희가 스타트업이긴 하지만 설립 초기부터 매출을 내기 시작해 일반 스타트업과는 출발점이 다르다고 생각합니다.
사실 많은 엔지니어분들이 회사를 만들고 스타트업에 뛰어들어 자신이 만들고 싶어 하는 것들을 만듭니다. 하지만 본인이 원하는 것과 시장이 원하는 것을 만드는 것에는 엄청난 차이가 있죠. 300억에서 500억원 되는 돈을 들여서 만든 제품이라도 고객이 쓰지 않으면 아무런 소용이 없는데, 시장에서는 제품을 볼 때 정말 사소한 이유로도 선택을 하지 않습니다. 그래서 고객사들과 얼라인하면서 여러가지를 함께 해야하는데, 이런 식으로 접근하시는 분들이 많지는 않은 것 같습니다. 회사는 고객사의 입장에서 접근해야 하죠. 이것이 제가 회사를 경영하는 철학입니다.