오픈AI, FBI에 美 금융분석가 신고…범행 계획·질투심 등 AI에 언급
유죄 인정 후 보호관찰 8년…생성형 AI의 위험 대화 대응 논란도

미국의 한 금융분석가가 전 여자친구를 살해하겠다는 구체적인 계획을 챗GPT에 털어놨다가 오픈AI의 신고로 체포돼 유죄를 인정했다.

14일(현지시간) 미국 IT 전문매체 퓨처리즘과 현지 신문 팜비치포스트 등에 따르면 플로리다주에 거주하던 대런 저우(25)는 지난 3월 챗GPT와 대화하면서 헤어진 여자친구에 대한 살해 계획을 구체적으로 언급했다.

인공지능(AI) 챗봇 챗GPT에 살해 계획을 털어놓은 미국 남성이 오픈AI의 신고로 덜미가 잡혔다. 게티이미지뱅크

저우는 전 여자친구의 취미와 자주 찾는 장소 등을 챗GPT에 이야기하면서 다른 남성에 대한 질투심도 드러냈다. 이후 여자친구를 살해하겠다는 계획과 범행 후 자신도 목숨을 끊겠다는 내용까지 언급한 것으로 전해졌다.

수사당국은 저우의 대화가 단순한 감정 표출을 넘어 구체적인 범행을 준비하는 수준이었다고 판단했다. 저우는 총기를 구입했다는 내용과 관련 사진을 여자친구에게 보냈다고 챗GPT에 이야기하기도 했다.

오픈AI는 이 같은 대화에서 유해한 패턴을 감지한 뒤 관련 내용을 연방수사국(FBI)에 신고했다. 이후 수사당국이 챗GPT 대화 내용 등을 토대로 수사에 나섰고 저우는 체포됐다.

저우는 체포 직후 10만달러의 보석금을 내고 석방됐으며, 당시 근무하던 투자은행에서도 해고됐다.

그는 이후 재판에서 유죄를 인정했다. 검찰과의 합의에 따라 실형 대신 판결 유예와 함께 8년간의 보호관찰 처분을 받았으며, 처음 2년 동안은 전자발찌를 착용하게 됐다.

저우의 변호인은 그가 폭력적인 사람이 아니며 정신적으로 어려운 시기를 겪었던 것이라면서 현재는 상태가 호전됐다고 주장했다. 또 저우가 챗GPT 대화에서 언급한 것과 달리 실제로 총기를 소유하지 않았다고 해명했다.

이번 사건은 생성형 AI가 사용자의 위험한 대화를 어떻게 감지하고 대응해야 하는지를 둘러싼 논란과도 맞물린다.

앞서 오픈AI는 캐나다 브리티시컬럼비아주에서 발생한 총기 난사 사건과 관련해서도 범인이 범행 전 챗GPT에 구체적인 범행 시나리오를 반복적으로 언급했던 사실이 알려지면서 논란에 휩싸였다. 피해자 가족들은 오픈AI를 상대로 손해배상 소송을 제기했고, 캐나다 정부도 법적 대응을 예고한 상태다.

이번 사례에서는 오픈AI가 위험한 대화를 수사당국에 전달했지만, AI 기업이 이용자의 대화를 어느 범위까지 감지·검토하고 위험 상황에서 언제 외부에 신고해야 하는지를 둘러싼 논쟁은 계속될 전망이다.

이승구 온라인뉴스 기자 [e-mail]