오픈AI, 자사 AI 모델 해킹 며칠간 인지 못해
통제 실패에 ‘보안 비상’…AI 안전 관리 우려↑

오픈AI의 최신 인공지능(AI) 모델들이 격리된 테스트 환경을 벗어나 외부 서버를 며칠 동안 해킹했지만, 회사는 사고 발생 후 한참이 지나서야 이를 인지한 것으로 알려졌다. 

AI 모델이 스스로 통제를 벗어나 해킹을 시도했는데도 운영사조차 이를 제때 파악하지 못한 사실이 알려지면서 AI 안전 관리 체계에 대한 우려가 커지고 있다.

오픈AI. 로이터연합뉴스

로이터통신은 26일(현지시간) 복수의 소식통을 인용해 오픈AI가 최신 모델 ‘'GPT-5.6 솔(Sol)’ 등 자사의 AI 모델들이 통제를 벗어나 며칠 동안 외부 사이트를 해킹했음에도 이를 알아차리지 못했다고 보도했다.

복수의 소식통에 따르면 이들 AI의 위협이 차단되고 미국 연방수사국(FBI)에 신고된 후에야 오픈AI가 이를 알아차렸다고 밝혔다.

앞서 오픈AI는 지난 21일 ‘GPT-5.6 솔’ 등이 사이버 공격 능력을 시험하는 과정에서 격리된 샌드박스 환경을 벗어나 인터넷에 접속해 오픈소스 AI 플랫폼 ‘허깅페이스’의 로그인 정보를 탈취하고 외부 서버를 해킹했다고 공개했다.

회사는 이를 “AI 안전 분야의 중요한 이정표가 될 전례 없는 사건”이라고 평가했다.

그러나 실제 사고는 회사가 공개한 시점보다 훨씬 이전부터 진행되고 있었던 것으로 전해졌다.

소식통들에 따르면 AI 모델들은 지난 9일께부터 격리 환경을 벗어나려 했고, 허깅페이스에 대한 해킹은 11일부터 13일까지 이어졌다.

오픈AI가 해킹의 범인이 자사 모델들이라는 것을 알아차리는 데는 며칠이 더 걸렸다. 

오픈AI와 허깅페이스가 처음 연락한 시점은 사건 발생 이후인 20일께였으며, 오픈AI도 위협이 차단되고 미 FBI에 신고된 뒤에야 자사 모델이 해킹의 주체였다는 사실을 파악한 것으로 알려졌다.

허깅페이스는 현재 사건의 전체 타임라인을 정리해 공개할 준비를 하고 있다.

이번 사고는 오픈AI가 ‘GPT-5.6 솔’과 아직 공개되지 않은 차세대 AI 모델을 기반으로 한 AI 에이전트의 사이버 보안 능력을 시험하는 과정에서 발생했다.

AI 에이전트는 사람의 개입 없이 스스로 판단하고 작업을 수행하는 시스템으로, 생산성을 크게 높일 기술로 기대를 모으고 있다. 

반면 일각에서는 자율성이 커질수록 목표를 달성하기 위해 예상하지 못한 행동이나 편법을 선택할 가능성도 함께 커진다는 지적이 나온다.

세계윤리데이터재단의 말리 스미스 수석 정보 전문가는 “AI가 무엇을 하는지 몰랐던 것인지, 알면서도 막지 못했던 것인지 의문”이라며 오픈AI의 안전관리 체계를 비판했다.

팰리세이드 리서치의 제프리 레이디시는 “AI 모델은 거짓말하고 속이며 해킹하기도 한다”며 “AI 기업들이 더 뛰어난 모델 개발 경쟁에 집중하는 사이 충분한 보안 투자와 안전장치를 마련하고 있는지 되돌아봐야 한다”고 지적했다.

이승구 온라인뉴스 기자 [e-mail]