유명인 사진·음성·영상 합성해
딥페이크 이용 누구나 쉽게 제작
총선·대선 등 국가 중대사 앞둬
유권자 판단 심각한 왜곡 우려

인공지능(AI)이 삶 곳곳에 깊숙이 침투했다. 우리의 행선지, 쇼핑 목록, 검색기록 등 일상을 감시하며 개인정보를 수집한다. 소셜미디어의 알고리즘은 시민들의 편향성을 파고들어 양극화를 심화시킨다. 정치 영역에서 AI발 딥페이크나 가짜뉴스는 민주주의를 심각하게 위협한다. 세계일보는 AI 사용을 규제하고 윤리 기준 마련과 함께 시민 교육에 적극적으로 나서며 AI와 민주주의의 조화를 도모하는 선진국의 사례를 7차례 나눠 연재한다.

인공지능(AI) 기술을 탑재한 거짓 정보가 민주주의의 최대 위협 요소로 대두되고 있다. 거짓 정보는 더 이상 허위 사실이 포함된 가짜뉴스나 사회관계망서비스(SNS) 게시글, 유튜브 영상에 머무르지 않는다. 특정 인물이 하지 않은 행동과 발언을 사진과 영상으로 조작하는 데까지 이르렀다. 

지난 1월 미국에선 조 바이든 대통령이 백악관에서 성소수자를 혐오하는 연설을 하는 가짜 영상이 급속도로 퍼졌다. 3월에는 도널드 트럼프 전 대통령이 수갑을 차고 연행되는 가짜 사진이 등장했다. 사람들은 글보다 사진, 사진보다 영상에 신뢰감을 느끼는 데다 이목을 집중시키는 자극적인 장면이 담겨 유포 속도가 빨랐다. <관련기사 2·3면>

거짓 정보가 더 그럴듯해지고, 더 빨라지게 된 배경에는 ‘딥페이크(Deepfake)’가 있다. 딥페이크는 다양한 형태의 콘텐츠를 반복 학습한 AI로 가짜 사진, 영상, 음성 등을 합성하는 기술이다. 예를 들어, 바이든 대통령의 혐오 영상은 백악관 연설 영상에 바이든 대통령의 목소리와 흡사한 가짜 음성, 입 모양을 AI로 합성해 만들어졌다. 

딥페이크는 누구나 쉽게 제작할 수 있다는 점에서 위험성이 더 크다. 3일 기준 미국의 이미지 생성형 AI 프로그램 ‘미드저니(Midjourney)’에 바이든 대통령을 검색하면 나오는 이미지는 2만4952건, 트럼프 전 대통령을 검색하면 나오는 이미지는 5만5463건에 달한다. 모두 프로그램 이용자들이 간단한 몇 문장을 입력해 만들어낸 가짜·가상 사진들이다. 미국과 유럽은 딥페이크가 선거 기간 유권자의 판단을 왜곡할 것으로 보고 대안 마련에 속도를 내고 있다.

국내에선 아직 정치 영역에서 딥페이크 문제가 불거지지 않았지만 안심할 수 없다는 게 전문가들의 판단이다. 실제 외국의 한 생성형 AI 프로그램 모델을 공유하는 사이트에는 윤석열 대통령의 딥페이크 모델이 게시돼 있다. 이미지 생성형 AI 프로그램인 ‘스테이블 디퓨전(Stable Diffusion)’을 기반으로 수십장의 사진을 추가 학습시켜 별도로 만든 이 모델은 추가적인 명령어(프롬프트) 입력으로 다양한 형태의 가짜 이미지를 무한대로 생성할 수 있다. 여기에는 북한 김정은 국무위원장, 김여정 부부장 등 내년 총선을 앞두고 가짜뉴스에 활용될 경우 큰 파장을 미칠 수 있는 인물의 실사에 가까운 이미지 모델까지 올라와 있어 우려가 제기된다. 

취재팀이 지난 7월 뉴욕에서 만난 줄리아 스토야노비치 뉴욕대 교수는 “AI는 나쁜 행위자들이 잘못된 정보를 퍼뜨려 여론을 움직이는 것을 돕는다는 점에서 큰 위기”라고 지적했다. 

지성우 성균관대 법학전문대학원 교수는 “대선 2∼3일 전에 딥페이크 영상이 유포되면 큰 혼란이 있을 것”이라며 “국회가 딥페이크에 대한 책임 문제를 확실히 하고 처벌 조항을 강화한 법안을 마련해야 한다”고 했다. 

※본 기획물은 정부광고 수수료로 조성된 언론진흥기금의 지원을 받았습니다.

특별취재팀=조병욱·박지원·유지혜·김병관 기자