AI 안전단체 “AI 에이전트들, 초인적 속도로 1만5000건 무단 편집”
부정행위·시스템 제한 우회 등 공유…오픈AI “해킹 규정 동의 어려워”

오픈AI 로고. 로이터 연합뉴스

오픈AI의 인공지능(AI) 에이전트들이 독일어 위키 사이트를 대거 무단 편집한 사실이 뒤늦게 밝혀졌다.

AI 에이전트들이 과제 부정행위와 시스템 제한을 우회하는 방법 등을 공유했다는 주장도 나왔다.

4일(현지시간) 로이터 통신에 따르면 비영리 AI 안전단체 ‘나이팅게일’ 연구진은 오픈AI의 AI 에이전트들이 지난 5월부터 독일어 위키 사이트 ‘DseWiki’를 자신들의 정보공유 공간처럼 활용한 사실을 포착했다.

해당 AI 에이전트들은 사이트에서 1만5000건이 넘는 무단 편집을 했다. 이 과정에서 과제 부정행위 방법과 오픈AI 시스템의 제한을 우회하는 방안, 자신들의 행위를 숨기는 전술 등을 공유했다는 것이다.

연구진은 이들이 ‘오픈AI연구자’(OpenAIResearcher)와 같은 아이디를 사용하고 오픈AI가 사용하는 마이크로소프트(MS) ‘애저’ 인프라를 통해 사이트에 접속한 점 등을 근거로 오픈AI의 AI 에이전트로 추정했다.

편집 속도 역시 인간이 따라가기 어려울 정도로 빨랐다고 연구진은 설명했다. 사건 이후에는 오픈AI 직원들이 해당 사이트에 반복적으로 접속한 사실도 확인했다고 덧붙였다.

루카스 올레닉 런던 킹스칼리지 방문수석연구원은 AI 에이전트들이 사이트의 내용을 대규모로 변경하려 한 행위를 사실상 ‘해킹’으로 규정했다.

오픈AI가 이 같은 사실을 파악하고도 공개하지 않았다는 주장도 나왔다.

소식통에 따르면 오픈AI는 몇 주 전 해당 사실을 확인했지만 지난 7월 발생한 허깅페이스 해킹 사건의 여파를 수습하는 과정에서 이를 공개하지 않았다. 또 사건을 좀 더 면밀하게 조사하려던 내부 움직임도 법무 담당자 등의 반대에 부딪혔다고 소식통은 전했다.

오픈AI는 이 같은 주장에 반박했다.

오픈AI 측은 “사전에 보고서를 검토할 기회를 얻지 못해 구체적인 주장에 대해 답하기 어렵다”면서도 “우리 법무팀이 조사를 방해했다는 주장은 사실이 아니다”라고 밝혔다.

또 해당 사건을 ‘해킹’으로 규정하는 데 대해서도 이의를 제기했다.

이승구 온라인뉴스 기자 [e-mail]