정상원 대표 "AI 생성 콘텐츠 윤리적 활용 위해 전 세계적으로 적극 대응해 나갈 것"
인공지능 서비스 전문기업 이스트소프트가 어도비 주도 '콘텐츠 진위 이니셔티브(CAI)에 공식적으로 합류했다. 이를 통해 이스트소프트는 자사 AI 휴먼 서비스 '페르소닷에이아이'에 글로벌 표준 반영하고 윤리적 활용 기준도 고도화한다.
17일 이스트소프트에 따르면 어도비가 설립한 CAI는 마이크로소프트, 퀄컴, BBC, 뉴욕타임스 등 기술 및 미디어 기업, 연구기관, NGO 등 3천 개 이상의 기업과 기관들로 구성된 글로벌 연합이다. 이스트소프트는 지난달 최종 승인을 받았다.
CAI는 AI 생성 콘텐츠의 악용 방지 및 신뢰성 확보를 위해 회원사와 함께 AI 생성 콘텐츠 제작자, 제작 시기, 제작 방법 등 세부 정보를 잃지 않으면서 공유할 수 있도록 '콘텐츠 자격 증명'을 개발해 전 세계적인 허위 정보에 대응하고 있다.
이스트소프트는 AI 휴먼 서비스 페르소닷에이아이를 활용해 생성되는 콘텐츠의 윤리적 활용을 위해 ▲AI 생성 콘텐츠 식별을 위한 워터마크 삽입 ▲콘텐츠 추적을 위한 메타정보 기록 ▲영상 생성 시 비윤리적 키워드 활용 제한 등의 정책을 운용해 왔다. 최근에는 정보통신정책연구원(KISDI)과 AI 휴먼 서비스의 올바른 활용을 위한 자율점검표 구축에 돌입하기도 했다.
정상원 이스트소프트 대표는 "생성형 AI의 중요성과 활용도가 높아지고 있는 만큼 기업의 윤리적인 기술 활용과 사회적 책임이 날로 커지고 있다"며 "선도적인 AI 휴먼 기업이자 어도비 CAI 회원사로서 AI 콘텐츠의 투명성, 신뢰성, 안정성 확보를 위해 전 세계적인 차원에서 더욱 노력해 나가고자 한다"고 밝혔다.
