“아이들 사줬는데 음란 대화”…AI 곰인형 美서 판매 중단

미국에서 판매된 인공지능(AI) 곰인형 ‘쿠마(Kumma)’가 어린이에게 성적인 설명을 하거나 위험한 행동을 부추기는 발언을 한 사실이 드러나면서 판매가 전면 중단됐다.

19일(현지시간) CNN 등의 보도에 따르면, 쿠마는 오픈AI의 GPT-4o를 기반으로 작동하는 인공지능(AI) 봉제 인형이다. 이를 제작한 싱가포르 장난감업체 폴로토이(FoloToy) 는 쿠마를 “아이와 어른 모두에게 완벽한 친구”라고 홍보하며 99달러(약 14만원)에 판매해 왔다.

그러나 미국 공익연구그룹 PIRG는 13일 발표한 보고서를 통해 이 인형이 사실상 안전장치 없이 부적절한 대화를 이어간다는 사실을 밝혔다.

PIRG는 “연구 과정에서 연구원이 성적 단어를 한 번 언급하자 쿠마가 스스로 주제를 확장해 성적 취향, 역할극 시나리오, BDSM(가학적 성적 취향) 관련 내용을 장황하게 설명했다”고 밝혔다. 심지어 집에서 칼이나 성냥을 찾는 방법을 안내하는 등 위험 행동을 조장하는 발언도 있었다.

PIRG는 “어린이가 이런 단어를 먼저 말할 가능성은 낮다”며 “인형이 새로운 개념까지 스스로 끄집어내 설명한 점이 더 충격적이었다”고 지적했다.

논란이 커지자 오픈AI는 폴로토이의 API 접근 권한을 차단했으며, 폴로토이 최고경영자(CEO) 래리 왕은 “부적절한 콘텐츠에 대한 비판을 심각하게 받아들이고 있다”며 쿠마를 포함한 AI 장난감 전체 제품군 회수 및 안전 감사 착수를 공식 발표했다.

연구 공동저자 RJ 크로스는 ” 어린 나이에 AI 친구를 갖는 경험이 실제 친구 관계에 어떤 영향을 미칠지 우려된다”면서 “우리가 발견한 문제점에 대해 기업이 조치에 나서 기쁘다”고 밝혔다.

이어 “문제 제품 한두 개의 회수로 해결될 문제가 아니며, 체계적인 규제와 검증 시스템이 필요하다” 강조했다.