이루다 개발사에 과징금·과태료 1억

정부, AI기업 정보처리 첫 제재
개인정보 유출·혐오 발언 ‘챗봇’
사회적 물의… 한달 만에 중단돼
“중대 위반 아냐… 수사의뢰 안해”
일각 “솜방망이 처벌” 비판 일어

개인정보 침해·유출 논란부터 성희롱, 혐오발언 논란까지 일으키며 출시 한 달 만에 서비스가 중단됐던 인공지능(AI) 챗봇 ‘이루다’ 개발사에 총 1억330만원의 과징금과 과태료가 부과됐다. 이번 처분은 개인정보보호법 위반에 따른 것으로, 정부가 AI 기술 기업의 무분별한 개인정보 처리를 제재한 첫 사례다.

개인정보보호위원회는 28일 열린 전체회의에서 이루다 개발사인 ‘스캐터랩’의 개인정보보호 법규 위반 행위에 대한 시정조치 안건을 논의해 과징금 5550만원과 과태료 4780만원 등 모두 1억330만원을 부과하기로 결정했다고 밝혔다. 이루다 개발·서비스 과정에서 정보 주체의 동의 없이 개인정보를 수집하고 수집 목적 외에 정보를 활용했다고 본 것이다.

개인정보위에 따르면 스캐터랩은 자사 애플리케이션 서비스인 ‘텍스트앳’과 ‘연애의 과학’에서 수집한 이용자 60만명의 카카오톡 대화 문장 94억건을 페이스북 메신저 AI 챗봇 서비스 이루다의 개발·운영에 이용했다. 이 과정에서 개인정보 수집 목적을 정확히 밝히지 않은 행위, 가명 처리를 제대로 하지 않은 행위, 성생활 등 민감 정보를 처리하면서 별도 동의를 받지 않은 행위, 만 14세 미만 아동의 개인정보를 수집한 행위 등이 주요 위반 사항으로 확인됐다.

조사 결과 스캐터랩은 카카오톡 대화 문장을 이루다의 AI 모델 개발을 위한 알고리즘 학습에 이용하면서 대화에 포함된 이름, 휴대전화 번호, 주소 등 개인정보를 삭제하거나 암호화하는 조치를 전혀 하지 않았다. 이루다 서비스 운영 과정에서는 20대 여성의 카카오톡 대화 문장 약 1억건을 응답 데이터베이스(DB)로 구축하고, 이루다가 여기서 적절한 문장을 선택해서 발화하도록 했다.

배상호 개인정보위 조사2과장은 “식별성 있는 정보는 가명 처리를 했지만 대화 내용에 대해서는 일절 가명 처리를 하지 않았다”며 “응답 DB 발화내용은 카카오톡 대화 내용을 변형 없이 그대로 발화시킨 부분이 개인정보에 해당한다고 봤다”고 말했다. 응답 내용을 원천 DB인 연애의 과학, 텍스트앳 정보와 비교하면 누가 발화했는지 분석해낼 수 있기 때문이라는 설명이다.

개인정보위는 또 스캐터랩이 텍스트앳과 연애의 과학 개인정보처리방침에 ‘신규서비스 개발’ 문구를 포함한 것만으로는 충분하지 않다고 판단했다. 신규서비스라고만 명시함으로써 이루다 같은 AI 챗봇 서비스 개발에 활용될 것을 동의했다고 보기 힘들다는 것이다.

일각에서는 1억여원 수준의 과징금과 과태료가 ‘솜방망이’ 처분이라는 지적이 나왔다. 현장에서 적용할 수 있는 개인정보 보호 관련 가이드라인이나 제도적 방향성 등이 언급되지 않았다는 점도 아쉽다는 분석이다.

배 과장은 관련 매출 3%로 정해진 과징금 기준에 대해 “이루다는 매출이 발생하지 않았지만 같은 관리 조직이 운영하는 연애의 과학, 텍스트앳 매출액이 연 10억8000만원 정도 된다”고 설명한 뒤 “스캐터랩이 최근 3년간 과징금 부과 처분 받은 적 없었던 점, 조사에 최대한 적극적으로 협력해 준 점에서 10% 감경 처분을 했다”고 밝혔다. 경찰에 추가 수사 의뢰를 할 것이냐는 질문에는 “매우 중대한 위반이거나 개인정보보호법에서 정한 고발 기준에 해당하지는 않기 때문에 고발은 하지 않고 행정적 처벌과 시정조치명령을 내렸다”고 답했다.

윤종인 개인정보위원장은 “이번 처분 결과가 AI 기술 기업이 개인정보를 이용할 때 올바른 개인정보 처리 방향을 제시하고, 기업 스스로 관리·감독을 강화해가는 계기가 되기 바란다”고 덧붙였다.

스캐터랩 측은 개인정보위 조사 결과에 대해 “이번 일을 거치며 올바른 개인정보 처리의 필요성에 대한 무거운 사회적 책임을 느꼈다”며 “이번과 같은 일이 되풀이되지 않도록 지난 1월 이루다 서비스 종료 후 바로 내부 TF팀을 구성해 보다 엄격한 기준하에서 개인정보 처리에 필요한 프로세스 및 기술들을 마련해 가고 있다”고 밝혔다.

정지혜 기자 [e-mail]