“이거 봤어?” 욕했는데…AI에 또 속았다

“러브버그 보호” 환경운동가·수십년 경력 의사 등 AI 생성 이미지 확산
가짜인지 구분 어려워…업계 “AI 활용 저해하지 않는 규제와 교육 필요”

최근 사회관계망서비스(SNS)에는 노란 우비를 입은 여성이 등장하는 영상이 확산했다. 이 여성은 동물보호운동가 고기영이라고 소개됐다. 그는 마이크 앞에서 “지금 이 순간에도 죄 없는 러브버그들이 학살당하고 있다. 학살을 멈추고 공존하는 사회가 됐으면 한다”며 눈물을 흘렸다. 그러나 고기영은 자기 얼굴과 몸에 러브버그가 달라붙자 욕설을 내뱉었다. 이를 본 사람들은 이율배반적인 모습에 비난을 쏟아냈다. 

문제의 이 영상은 인공지능(AI)으로 만든 가짜 영상으로 판명됐다. AFP통신은 구글 역 이미지 검색을 통해 검증해보니 가짜였다고 보도했다. AFP통신은 AI 풍자물을 만드는 유튜버 ‘화성인 릴도지’가 최초 게시한 것으로 지난 2일 올라온 원본 게시물에는 ‘실화 바탕의 AI로 제작된 이미지’라는 설명이 붙어있다고 전했다.

유튜브에는 인공지능(AI)로 생성한 의사 이미지로 건강정보를 전하는 채널이 등장하고 있다. 유튜브 캡처

생성형 AI 기술이 발달하면서 AI로 만든 이미지와 영상이 늘어나고 있다. 워터마크를 확인하거나 주의 깊게 보지 않는 이상 진짜인지 가짜인지 구분하기 어렵다. 악용될 우려가 있는 만큼 대비가 필요하다는 지적이다. 

◆서울서 용암 분출·마트 들어온 사자 등 AI 영상 확산

12일 업계에 따르면 AI가 만든 가짜 영상이 SNS나 유튜브 등에서 퍼진 사례는 적지 않다. 

최근 유튜브에는 ‘AI 의사’가 잇따라 등장하고 있다. 머리가 희끗희끗한 의사가 수십년 경력의 현직임을 밝히면서 건강정보를 전한다. 대부분 실제 의사가 아닌 AI로 만든 가상의 이미지이다. 영상 하단에는 “이 영상은 가상의 인물을 각색하여 재구성한 내용”이라고 밝히고 있지만, 꼼꼼히 보지 않으면 구분이 어려운 게 사실이다. 

러브버그 보호를 주장하는 환경운동가(위)와 서울 시내에서 용암이 분출된다는 뉴스 보도 화면. 모두 인공지능(AI)으로 만든 이미지다.  사회관계망서비스(SNS) 캡처

해외에서도 가짜 AI 의사가 논란이 됐다. 

중국 SNS ‘틱톡’에서 건강 조언 인플루언서로 활동하는 ‘쿠치 닥터’가 AI로 생성된 가짜라는 의혹이 제기됐다. 이들도 대부분 “10년 이상 산부인과 의사로 일했다” “나는 성형이나 다이어트 전문가다” 등으로 자신을 소개하며 건강에 대한 정보를 내놓는다.

러브버그 환경운동가 영상처럼 온라인 이용자들의 이목을 집중시키는 AI 가짜 영상도 빈번하게 나온다. 

지난달 SNS에는 ‘서울 시내에 용암이 분출되고 있다’는 내용의 뉴스 속보를 전하는 영상이 공유됐다. 영상에서 여성 아나운서는 “현재 서울 시내에 용암이 분출하고 있다”라고 한 뒤 현장 기자를 연결한다. 이어 화면에 등장한 취재기자 뒤로는 시내 한복판에 시뻘건 용암이 솟아오르고 있다. 취재기자는 “뒤에 보이는 용암은 진짜가 아닙니다. 그리고 저도 AI입니다”라고 말했다.

최근 국내 온라인에서 화제가 된 ‘마트 정육점에 사자 등장’이라는 제목의 영상도 AI로 생성한 것이었다. 사자가 마트 진열대에 있는 고기를 물고 바닥에 떨어뜨린 뒤 먹는 모습이 담겼다.

올해 초 티베트 강진 이후 구조현장 모습이라며 지진 잔해 아래 어린아이 사진이 SNS에 퍼졌는데, 이 역시 가짜 이미지였다. 

인공지능(AI)으로 만든 가짜 티베트 지진 피해 현장 사진.  사회관계망서비스(SNS) 캡처

◆AI 영상·이미지 생성 돌이킬 수 없어…적정한 규제·교육 필요

AI를 활용한 이미지와 영상 제작은 더 늘어날 전망이다. 영상 산업계에서는 생성형 AI로 영화와 애니메이션을 제작하는 시도가 지속되고 있다. 중년배우의 젊은 시절 모습을 AI로 구현하는가 하면, AI 영화제를 열기도 한다. 중국에서는 영웅본색 등 홍콩영화 전성기에 만들어진 영화를 AI로 리메이크하는 작업이 진행 중이다. AI를 활용해 영상이나 이미지를 만들면 컴퓨터그래픽(CG)을 이용했을 때보다 시간이나 비용이 절감된다는 장점이 있다고 업계는 입을 모은다. 

그러나 AI가 범죄에 악용되지 않도록 하는 노력도 필요하다. AI에 익숙하지 않은 고령자라면 AI 의사가 전하는 검증되지 않은 건강정보를 믿을 가능성이 크다. 딥페이크 음란사진처럼 AI가 범죄에 이용되기도 한다. 

틱톡에서 건강 조언 인플루언서로 활동하는 ‘쿠치 닥터’(왼쪽)와 마트 매대에서 고기를 먹는 사자. 역시 인공지능(AI)이 활용된 가짜다.  사회관계망서비스(SNS) 캡처

이에 따라 합리적인 워터마크 표시 범위를 정하고, 생성형 AI에 관한 교육을 강화해야 한다는 목소리가 커지고 있다. 

업계 관계자는 “이미 드라마나 영화 일부 장면에 AI가 활용되고 있는데, 모두 워터마크를 붙이라고 하면 시청에 방해가 될 수 있고, 기술 발전도 저해할 수 있어 적정 수준의 범위 설정이 필요하다”며 “AI 생성물을 비판적으로 이해하고 올바르게 활용할 수 있는 이용자들의 능력 배양도 함께 이뤄져야 한다”고 밝혔다.

이진경 기자 [e-mail]