온라인 퍼진 성착취물, AI로 6분 내 삭제

서울시, 신고시스템 업그레이드
불법촬영·딥페이크 영상 찾아내
채증·보고서 작성 등 전면 자동화
24시간 모니터링·시간 30배 단축

서울시가 6분이면 온라인에 유포된 디지털 성범죄 영상을 삭제할 수 있도록 인공지능(AI) 신고 시스템을 고도화한다.

서울시는 2023년 도입한 ‘AI 자동 삭제신고 시스템’의 디지털 성범죄물 탐지·채증·문서화·이메일 생성 등 전 과정을 자동화해 AI가 자동으로 삭제 신고까지 지원하도록 개발해 실행에 들어간다고 21일 밝혔다.

AI가 24시간 피해 영상물을 검출하면, 자동으로 영상을 채증해 보고서를 만든 후 해당 사이트에 삭제 요청하는 이메일까지 자동 생성하는 방식이다. 완성된 신고 이메일은 직원이 최종 확인해 발송하게 된다. 절차가 자동화되면서 온라인상에 떠도는 불법 영상물을 찾아내 해당 사이트에 삭제 신고를 하는 기간이 기존 약 3시간에서 6분으로 획기적으로 단축될 전망이다.

시는 서울연구원과 협력해 2023년 전국 최초로 ‘디지털 성범죄 AI 삭제지원 기술’을 개발했다. 서울 디지털성범죄 안심지원센터에서는 이를 활용해 24시간 불법 영상물 감시 및 삭제지원을 해 왔다. 시는 기존에는 직원이 영상물 채증과 보고서 작성을 해야 해 많은 시간이 소요됐으나, 전 과정 자동화로 처리속도가 최대 30배 개선될 것으로 기대했다.

자동 채증 보고서 기능은 텍스트·이미지·웹주소(URL) 등 콘텐츠에 포함된 핵심 정보를 자동 추출하고 이를 문서로 변환해 저장하는 것이다. 보고서는 수사기관이나 사법 절차에 필요한 증거자료로 활용할 수 있다. 해외에 서버를 둔 사이트에 영상물이 올라오는 사례가 늘어남에 따라, AI도 영어·중국어·일본어·러시아어 등 7개 국어로 신고 이메일을 생성할 수 있도록 했다.

시에 따르면 ‘서울 디지털 성범죄 안심지원센터’의 피해 영상물 삭제지원 건수는 AI 도입 전 2022년 2509건에서 지난해 1만4256건으로 무려 5배 넘게 늘었다. 시 관계자는 “24시간 자동 모니터링이 가능해, 새벽 시간대 모니터링도 가능하다”며 “지원관이 피해 영상물을 접하면서 발생할 수 있는 트라우마와 스트레스를 줄일 수 있는 장점이 있다”고 설명했다.

센터는 삭제지원을 비롯해 수사·법률지원, 심리치료·의료 지원 등을 원스톱 지원 중이다. 2022년3월부터 올해 3월까지 3650명의 피해자를 지원했고, 총 지원 건수는 6만4677건을 기록했다.

김선순 시 여성가족실장은 “이른바 ‘n번방’, ‘딥페이크’ 등 디지털 성범죄 기술은 갈수록 고도화되고 범죄 피해도 심각하다”며 “AI가 자동으로 삭제 신고까지 하는 기술을 도입해, 검출부터 삭제 신고까지 걸리는 시간을 획기적으로 단축시킬 것”이라고 말했다.

이병훈 기자 [e-mail]