진화하는 AI 기술… 아동 성범죄 악용

사진 이미지 조작 아동 협박
매뉴얼 공유… 英, 금지안 검토

날로 진화하는 인공지능(AI) 기술이 다양한 방식으로 아동 성범죄에 악용되고 있는 것으로 드러났다.

22일(현지시간) 영국 가디언은 인터넷감시재단(IWF)의 분석 결과를 인용해 범죄자들이 AI를 이용해 아동의 사진을 자극적으로 조작하고 있다고 전했다. 이들은 조작한 사진으로 아동을 협박한 뒤 더 노골적인 콘텐츠를 보내도록 유도한 것으로 알려졌다.

사진=게티이미지뱅크

IWF는 특정 프로그램으로만 접속할 수 있는 웹사이트인 다크 웹에서 범죄자들이 AI 활용 방안이 담긴 매뉴얼을 공유했다고 밝혔다. 매뉴얼에는 아동 성범죄에 AI 기술을 사용하도록 조언하고 장려하는 내용도 담겼다. 200페이지에 달하는 매뉴얼에는 익명의 작성자가 13세 아동을 “성공적으로 협박”했다고 자랑하는 내용 또한 포함됐다. IWF는 “가해자들이 범죄에 AI 기술을 사용하도록 서로 조언하고 장려하고 있다는 증거가 처음 발견됐다”며 해당 매뉴얼을 영국 국립범죄청에 넘겼다고 말했다.

IWF는 아동 성범죄자의 위험성에 관한 보고서를 작성하는 과정에서 불법 영상물이 공유되는 웹사이트를 발견했다. 해당 웹사이트에는 실제 아동 성범죄 피해자들의 얼굴을 AI 기술로 조작한 사진도 공유되고 있었다.

앞서 IWF는 지난해 10월 아동 성범죄자들이 AI를 이용해 생성한 유명 연예인들의 어린 시절 모습으로 불법 영상물을 만들어 유포하고 있다고 밝힌 바 있다.

AI 기술을 활용한 성범죄가 나날이 발전하자 기술을 제한하려는 움직임이 나타나고 있다. 영국 정부는 지난달 AI 기술을 악용해 자극적인 콘텐츠를 생성하는 전용 도구를 금지하는 방안을 검토 중인 것으로 전해졌다. 정책 보고서 작성에 참여한 로렐 박솔 박사는 “규제는 AI의 친구”라며 “정부는 기술이 사람들에게 해를 끼칠 경우 개입할 것이란 점을 보여줘야 한다”며 규제 필요성을 강조했다.

이민경 기자 [e-mail]