비투엔, LLM '헛소리' 해결하는 증거 기반 AI 플랫폼 출시
비투엔, LLM '헛소리' 해결하는 증거 기반 AI 플랫폼 출시
  • 이석진 기자
  • 승인 2024.12.12 10:44
  • 댓글 0
이 기사를 공유합니다

벡터 인덱스 기반 검색 파이프라인에 금칙어 필터링 존재
데이터 솔루션 소프트웨어 업체 비투엔은 최근 새로운 데이터 솔루션 '하이퍼 글로리(HYPER GLORY)를 최초 공개하며 큰 주목을 받았다. 하이퍼 글로리는 대형언어모델(LLM)에서 발생할 수 있는 할루시네이션(환각) 문제를 해결하기 위한 증거 기반 인공지능(AI) 플랫폼이다. 
(자료=비투엔)
(자료=비투엔)
하이퍼 글로리는 데이터베이스에서 여러 유형의 정형·비정형 데이터를 가져와 스캔 과정을 거쳐 문서로 처리하고, 이를 검색 파이프라인 API의 토대로 삼는다. 이 API는 디씨온(DC-ON)의 생성형 제안서 어시스턴트에 제공되며, 실제 데이터를 근거로 답변을 생성하도록 지원한다. 디씨온은 비투엔 경영권을 인수한 디모아의 자회사다. 하이퍼 글로리의 아키텍처는 다양한 유형의 문서(PDF, PPT, HWP)를 작은 단위로 나누는 청킹(Chunking) 과정을 거쳐 임베디드 과정을 통해 벡터 인덱스(Vector Index)로 변환한다. 벡터는 널리 흩어진 비정형 데이터를 숫자로 표기하는 데이터 구조다. 벡터는 고차원 공간에 배치될 수 있어 대규모 데이터 처리에 유리하며, 인덱스를 통해 효율적인 검색을 지원한다. 벡터 인덱스는 검색 파이프라인 API의 핵심 요소다. 사용자가 검색 파이프라인에서 캐시 요청시 벡터 인덱스를 참조하기 때문이다. 이 과정에서 사용자의 접근 권한을 평가하는 보안 기능과 할루시네이션을 최소화하는 금칙어 필터링 기능이 존재한다. 이렇게 필터링된 캐시는 생성형 제안서 어시스턴트에서 증강(Augmented)되며 생성 답변을 뒷받침한다. 하이퍼 글로리는 총 6가지 유스 케이스(Use Case)로 활용된다. △금융·보험 서비스 △공공·행정 서비스 △소매·소비재 산업 △제조·공정 △법률·전문 서비스 △의료 서비스다. 한편, 비투엔은 데이터 이동부터 처리, 변환, 분석까지 엔드투엔드 서비스를 지원하는 새로운 데이터 플랫폼 '비투엔 패브릭'도 공개했다.


댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.

  • 서울특별시 강남구 언주로 709 (송암빌딩) 13F
  • 대표전화 : 02-2658-4707
  • 팩스 : 02-2659-4707
  • 청소년보호책임자 : 이수환
  • 법인명 : 주식회사 디일렉
  • 대표자 : 한주엽
  • 제호 : 디일렉
  • 등록번호 : 서울, 아05435
  • 사업자등록번호 : 327-86-01136
  • 등록일 : 2018-10-15
  • 발행일 : 2018-10-15
  • 발행인 : 한주엽
  • 편집인 : 장지영
  • 전자부품 전문 미디어 디일렉 모든 콘텐츠(영상,기사, 사진)는 저작권법의 보호를 받은바, 무단 전재와 복사, 배포 등을 금합니다.
  • Copyright © 2024 전자부품 전문 미디어 디일렉. All rights reserved. mail to [email protected]
온라인바카라 온라인바카라 파라다이스 카지노 온라인 도박 사이트 카지노 온라인 아시아 카지노 한국 스포츠 베팅 카지노 도박 사이트 온라인 도박 스포츠 베팅 게임 카지노 서울 제왕 카지노 사이트 오딘 카지노 노구라 카지노 토르 카지노 마카오 카지노 게임 카지노 슬롯 트 머신 해외 카지노 사이트 엠 세븐 카지노 미국 카지노