국내 생성형 AI 취약성 점검…정부, ‘AI 레드팀 챌린지’ 개최
4월11·12일 코엑스에서…4월10일까지 1000명 모집
2024-03-21 윤상호 기자
국내 생성형 인공지능(AI)의 취약점을 찾는 행사가 열린다.
과학기술정보통신부는 한국정보통신기술협회(TTA)와 ‘생성형 AI 레드팀 챌린지’를 개최한다고 21일 밝혔다.
행사는 4월11일과 12일 양일간 서울 강남구 코엑스에서 진행한다.
AI 레드팀은 통제된 환경에서 적대적 방법을 사용해 AI 시스템의 ▲유해성 ▲차별적인 결과 ▲시스템 오용 등 결함‧취약성을 식별하기 위한 시험 활동을 의미한다.
1일차는 ▲네이버클라우드 ▲SK텔레콤 ▲업스테이지 ▲포티투마루 등의 AI 모델을 대상으로 1000명의 참가자가 잠재적 위험과 취약점을 식별하는 공개 도전 형식이다. 참가자는 4월10일까지 행사 홈페이지에서 접수한다. 총 1700만원 규모 상금을 걸었다.
2일차는 ‘글로벌 AI 안전 콘퍼런스’를 갖는다. 국내외 전문가가 생성형 AI 안전·신뢰성 확보방안을 논의한다.
과기정통부는 이번 행사 결과를 분석해 가이드라인 등을 마련할 계획이다.
강도현 과기정통부 2차관은 “이번 레드팀 챌린지 행사를 계기로 국내 산업계에 AI 안전성 확보를 위한 자발적인 노력이 확산되고 AI를 활용하는 일반 국민도 AI 윤리의 중요성에 대한 인식이 확대되기를 기대한다”라고 말했다.
디일렉=윤상호 기자 crow@bestwatersport.com
《반도체·디스플레이·배터리·전장·ICT·게임·콘텐츠 전문미디어 디일렉》