더불어민주당 이재명 대선 예비후보는 딥페이크 영상물 유포자를 수사기관에 고발하기로 했다.

더불어민주당 이재명 대선 예비후보가 15일 유튜브 채널 알릴레오 특집대담 ‘위기의 대한민국, 새 정부의 과제는’에 출연해 출연자들과 대담하고 있다. 사람사는세상 노무현재단 제공

이 예비후보 선거대책위원회는 16일 서울 종로구 서울경찰청을 방문해 딥페이크 영상 유포자 등 총 17명(9건)에 대해 고발장을 접수했다. 

선대위는 “지난주 이 예비후보 선대위는 딥페이크 등 허위조작정보 유포 행위에 대해 강력 경고했다”며 “그럼에도 악의적 의도로 제작한 딥페이크 영상에 후보자를 비방하는 내용을 담은 허위조작정보 등이 지속 유포되는 것을 확인했다”고 설명했다. 이어 “해당 영상들은 딥페이크 기술을 악용해 이 예비후보에게 친중반미 프레임을 덧씌우고, 악마화하는 내용을 담고 있다”고 설명했다. 

앞서도 선대위는 지난 11일 이 예비후보가 김혜경 여사에게 욕설하는 내용의 딥페이크 영상을 만들어 유포를 시도한다는 제보가 접수됐다”며 강경 대응 방침을 밝힌 바 있다. 

6·3 대선을 앞두고 인공지능(AI)을 이용한 딥페이크 영상이 확산하면서 정부와 정치권이 경계하고 있다. 게티이미지뱅크

6월3일 대통령 선거를 앞두고 각 당은 딥페이크에 대한 경계를 강화하고 있다.

중앙선거관리위원회도 딥페이크 관련 선거법 위반 단속에 나섰다. 

특별대응팀을 구성, 딥페이크 영상 등을 확인하고, 인공지능(AI) 생성 여부 판별을 위해 ‘시각적 탐지기법→감별 프로그램 활용→AI 감별 자문위원 활용’ 등 3단계 감별체계를 운영할 예정이다. 

감별이 어려운 AI 생성 음성 판별은 국립과학수사연구원(NFS)·한국전자기술연구원(KETI)과 협력한다. 

선관위는 “딥페이크 기술로 만든 선거 관련 영상이 조금이라도 오인 가능성이 있다면 법 위반”이라고 경고했다. 

현행 공직선거법은 AI 기술을 이용해 만든 실제와 구분하기 어려운 가상의 음향·이미지·영상 등을 딥페이크 영상으로 규정하고, 이를 이용한 선거운동을 금지하고 있다.

이진경 기자 [e-mail]