인스타그램도 나섰다, 혐오발언 막을 AI 필터 개발 중

페이스북·트위터에 이어 인스타그램도 혐오발언을 막는 프로그램을 개발 중인 것으로 알려졌다.

지난 28일(현지시간) 미국 IT 매체 테크크런치 등에 따르면 사진 기반 SNS(사회관계망서비스) 인스타그램이 갈수록 심각해지는 인터넷상의 혐오·증오 발언을 막을 수 있는 필터를 개발 중이다.

필터는 페이스북이 개발한 텍스트 분류 도구인 ‘딥 텍스트’를 기반으로 한다. 딥 텍스트는 사람 수준의 정확도로 언어를 이해할 수 있는 AI(인공지능) 기술이다. 글의 단순한 문자를 이해하는 것뿐만 아니라 숨겨진 의미 등도 파악할 수 있는 것으로 평가받고 있다. 

지난해 10월 인스타그램은 채널 내에서 유통되는 스팸 게시물들을 막기 위해 딥 텍스트를 활용한 바 있다. 인스타그램 측은 ‘안티 스팸 프로그램’이 스팸 관련 사진이나 텍스트를 막는데 얼마나 효과적이었는지에 대한 정확한 수치를 제시하진 않았지만 만족스러운 수준이라고 말했다. 

이 성공을 바탕으로 인스타그램은 딥 텍스트를 혐오·증오 발언이 담긴 게시물이나 댓글 등을 막는 데까지 활용하고자 결정한 것. 실제로 인스타그램은 최근 딥 텍스트에게 괴롭힘, 인종 차별, 성희롱과 같은 카테고리로 단어를 나눠 교육을 진행하고 있다.

필터를 개발하고 있는 한 관계자는 현재 딥 텍스트가 인스타그램 내의 200만 건의 댓글을 분석했으며, 정확한 분류를 위해 두 번 이상 확인을 하도록 만들고 있다고 밝혔다.

인스타그램이 본격적으로 프로그램을 적용하게 되면 게시물에 차별이나 성희롱과 같은 내용의 댓글이 달릴 경우 해당 댓글은 자동으로 삭제된다. 초기에는 영어 게시물이나 댓글에만 적용되며 향후 더 다양한 언어에 적용될 것으로 보인다.

이에 해외 전문가들은 “인스타그램은 이미 세계적인 채널로 성장하고 있다”며 “필터가 효과적으로 작용한다면 많은 이용자들이 악의적인 댓글 등으로부터 자유로워질 것”이라고 평가했다.

김지현 기자 [e-mail]