세계일보

검색

네이버제트, 제페토 신고 기능 강화…그루밍 방지 기술 도입해 이용자 보호

입력 : 2022-11-25 11:09:18 수정 : 2022-11-25 11:12:07

인쇄 메일 글씨 크기 선택 가장 작은 크기 글자 한 단계 작은 크기 글자 기본 크기 글자 한 단계 큰 크기 글자 가장 큰 크기 글자

 

네이버제트가 제페토 앱 내 신고 기능을 업데이트하고, 안티 그루밍 기술 도입, 안전 공식 캐릭터 런칭 등을 통해 이용자 보호에 적극적으로 나선다.

 

네이버제트는 이달 초 피드, 프로필, 월드, 채팅 등 앱 내 전반적인 제페토 신고 메뉴를 새롭게 업데이트된 커뮤니티 가이드라인에 따라 명확하고 직관적으로 개선했다.

 

‘미성년자의 안전’, ‘괴롭힘 및 따돌림’, ‘혐오 행위’ 등 신고옵션을 더욱 확장했고, 보다 신속하게 신고할 수 있도록 신고 메뉴 상단에 ‘미성년자의 안전’, ‘자살 및 자해’ 등 중대한 위반 행위를 배치했다. 또한 모든 연령대의 이용자가 이해할 수 있도록 간결하고 쉬운 표현으로 설정한 것이 특징이다.

 

이와 함께 사이버 범죄 수사 의뢰, 저작권 위반 신고, 자살 및 자해 방지 등에 대한 정보를 담은 고객센터 게시물 링크를 제공하며, 신고와 동시에 ‘유저 차단하기’ 기능도 함께 제공한다.

 

제페토는 신고한 유저, 신고 당한 유저 모두에게 커뮤니티 가이드라인의 위반 사항에 대해 자세하게 설명하는데, 이는 제재를 받은 이용자가 신고 사항에 대해 상세히 안내받으면 가이드라인 재위반 비율이 감소한다는 연구에 기반한 조치다.

 

네이버제트는 ▲온라인 아동 청소년 보호를 위한 국제 네트워크 기관 ‘인호프’ ▲글로벌 성착취물 근절 기업 연합체 ‘테크코얼리션’  ▲아동청소년 안전 교육 자문기관 ‘커넥트 세이프리’ ▲글로벌 커뮤니티를 지원하는 안전전문가로 구성된 TSPA(Trust and Safety Professional Association, 인터넷 온라인 안전전문가협회) 등 다양한 글로벌 단체들과 협업하며 이용자 보호를 최우선으로 고려하고 있다.

 

또한 아동청소년을 성적 착취와 학대로부터 보호하기 위해 기술, 프로그램을 개발하는 비영리단체 쏜(Thorn)과 협력해 그루밍 대화를 스캔하는 안티 그루밍 기술을 채팅 기술에 도입했다. 그루밍의 초기 지표를 빠르게 탐지해 전담팀에서 해당 계정에 대한 엄정한 조치도 하고 있다. 또한 자동화 탐지 방법, 전문 모더레이터를 통한 아동청소년 성착취물을 감지하고 제거하기 위해 전문 기술, 인력을 총동원하고 있다.

 

네이버제트 노준영 안전 전문팀(Trust and Safety team) 리드는 “앞으로도 안전한 메타버스 환경을 조성하기 위해 유해한 콘텐츠를 보다 정확하게 판단, 추적하는 기술을 고도화하고, 지속적으로 모니터링하겠다”며 “신고된 콘텐츠, 유저에 대한 유의미한 피드백을 공유해 투명성과 책임을 이어 나갈 것이며, 이용자 보호를 최우선으로 삼고 글로벌 단체와 협업하며 앞으로도 제페토의 다양한 노력을 공유하겠다”고 밝혔다.

 

한편, 네이버제트는 ‘보호자를 위한 제페토 안내서’, ‘자살/자해 방지 서포트’ 등 다양한 안전 가이드라인을 알리는 동시에 앱 안팎에서 유저에게 메타버스의 안전한 이용을 돕는 공식 캐릭터 ‘소테리아’를 선보였다. 지속적인 가이드라인 소개를 넘어 향후 제페토 앱에 등장해 위반시 이용자를 보호하는 역할로 발전될 것으로 기대하고 있다.


현화영 기자 hhy@segye.com

[ⓒ 세계일보 & Segye.com, 무단전재 및 재배포 금지]

오피니언

포토

이지은 '너무 아름다워'
  • 이지은 '너무 아름다워'
  • 이유미 '사랑스러운 미소'
  • 있지 유나 '여신의 손하트'
  • 전소민 '해맑은 미소'