딥페이크(인공지능 기술을 이용해 사진 등 이미지를 합성하는 기술)는 전 세계적인 골칫거리다. 사칭 범죄에 악용되거나 가짜 성 관련 이미지에 이용되는 등 법적 처벌 대상이기도 하지만, 페이크 콘텐츠의 진위를 가리는 것이 여간 어려운 일이 아니다. 실제 같은 콘텐츠로 품질이 대폭 업그레이드 된 탓이다.
최근 영국의 헐 대학 천문학과 학생들은 딥페이크 콘텐츠를 가리는 방법을 고안했다. 천문학 기술과 IT의 공통 분모는 찾기 어렵지만, 헐 대학 연구진은 피사체를 보는 데 빛이 필요하다는 점에 착안해 진짜 사진인지 아닌지를 판단할 수 있는 길을 열었다.
헐 대학의 석사과정 학생인 아데주모크 오월라비(Adejumoke Owolabi)는 천체물리학 교수인 케빈 핌블렛 박사의 지도에 따라 은하계 연구에 사용하는 도구를 딥페이크 콘텐츠 판명에 사용했다. 핌블렛 박사 연구팀은 영국의 국립천문학회 회의에서 연구 결과를 발표했다.
핌블렛 박사 연구팀의 딥페이크 사진 탐지 원리는 복잡하지 않다. 같은 광원에서 나온 빛을 사람의 좌우 양쪽 안구에 비추면 비슷한 모양의 빛 반사가 발생한다. 지금껏 공개된 딥페이크 사진의 경우 빛 반사까지 고려하지 않았는데, 이런 약점을 파고들면 가짜 사진을 판별할 수 있다.
연구팀은 일반적으로 은하 이미지에서 빛 분포를 측정할 때 사용하는 지니 계수를 사용해 눈 픽셀 전체에서 발생하는 빛 반사의 균일성을 조사했다. 지니 값이 0에 가까울수록 빛이 고르게 분포된 것을 말하고, 1에 가까운 값일수록 단일 픽셀에 집중된 빛을 나타낸다. 양쪽 눈에서 측정한 지니계수를 측정한 후 숫자를 비교하면, 해당 사진이나 영상이 딥페이크인지 아닌지 확인할 수 있다.
핌블렛 박사는 왕립천문학회 블로그 게시물을 통해 "연구팀은 안구에서의 빛 반사를 자동으로 감지하는 기술을 개발했고, 반사의 형태적 특징을 분석한 후 좌우 안구의 유사성을 비교한 후 딥페이크인지 확인할 수 있다"고 설명했다. 딥페이크 사진의 경우 두 눈에서 발생하는 빛 반사 형태에서 차이가 있다.
핌블렛 박사 연구팀은 천문학에서 은하계 빛 분포를 측정하는 또 다른 도구인 CAS 매개변수(농도, 비대칭, 매끄러움)도 사용했다. 은하가 중앙에 밀집된 형태인지 아니면 대칭 형태인지 분석하는 도구다. 하지만 이 방법은 딥페이크를 식별하는 데 큰 효과가 없는 것으로 나타났다.
헐 대학의 연구는 지금 당장은 효과를 발휘할 수 있지만, AI 모델이 빛의 눈 반사까지 고려하는 쪽으로 업그레이드 될 경우 식별이 어려울 수 있다. 눈 반사 외에 머리카락 질감, 해부학, 피부 세부 정보, 배경의 일관성 등을 판단 요소에 활용하면 딥페이크 사진의 설 자리를 잃게 만들 수 있다.
핌블렛 박사는 "이 기술은 단기적으로는 유망하지만 완벽한 방법인 것은 아니다"며 "딥페이크 탐지 경쟁에서 우리에게 기반을 주는 것은 맞다"고 밝혔다.
디일렉=이진 전문기자 [email protected]
