외부 테스트 업체 설정 오류로 인터넷 접속…제3자 시스템 취약점 악용
메타 “샌드박스 탈출 아닌 평가 환경 문제”…AI 보안 검증 방식 논란 확산

최근 메타의 인공지능(AI) 모델이 테스트 과정에서 다른 회사의 시스템 취약점을 이용해 실제 외부 시스템에 접근한 것으로 확인됐다.

이처럼 세계 주요 AI 기업들의 모델이 사이버보안 평가 과정에서 실제 외부 시스템에 접근하거나 취약점을 악용하는 사례가 잇따르면서 ‘AI 안전성’ 논란이 커지고 있다.

메타의 인공지능(AI) 모델도 내부 사이버 보안 시험 도중 외부 기관을 해킹한 것으로 드러나면서 ‘AI 안전성’ 논란이 더욱 뜨거워지고 있다. 생성형 AI로 만든 이미지

5일(현지시간) 미국 CNN과 블룸버그 통신 등 외신에 따르면 메타는 자사 AI 모델 ‘뮤즈 스파크 1.1’(이하 뮤즈 스파크)이 사이버보안 성능 평가 과정에서 제3자 시스템의 보안 취약점을 악용해 접근했다고 밝혔다.

이번 평가는 외부 보안 전문업체인 ‘이레귤러’가 진행했는데, AI의 사이버보안 대응 능력을 점검하기 위한 평가였다.

메타에 따르면 뮤즈 스파크가 평가 환경 설정 과정에서 발생한 오류로 인해 의도치 않게 인터넷에 접속할 수 있게 됐고, 이후 다른 회사의 시스템 취약점을 악용해 접근했다.

해킹 피해를 본 기관은 한 곳이지만, 구체적으로 어느 기관인지는 공개되지 않았다.

메타는 이번 사건이 뮤즈 스파크가 샌드박스(시험용 격리 환경)을 스스로 탈출한 것은 아니며, 외부 평가 환경의 잘못된 설정이 원인이라고 강조했다. 

이레귤러 역시 “샌드박스를 탈출한 것이 아니라 평가 환경 구성 문제였다”고 설명했다.

메타와 이레귤러는 이번 보안 사고의 구체적인 사실관계를 추가 조사해 사후 보고서와 백서 등을 발표할 계획이다.

이번 사고는 AI가 샌드박스를 스스로 탈출한 것이 아니라 평가 환경의 설정 오류로 인터넷에 연결됐다는 점에서 앞서 GPT 모델이 샌드박스를 벗어나 허깅페이스를 공격했던 사례와는 성격이 다르다.

이번 사례는 샌드박스를 스스로 탈출한 GPT 사례보다는, 평가 환경 설정 오류로 인터넷에 연결됐던 앤트로픽 사례와 더 유사한 성격으로 평가된다.

그럼에도 이번 사건은 최근 AI 업계에서 잇따라 보고된 유사 사례의 연장선에 있다.

앞서 오픈AI와 앤트로픽의 AI 모델도 사이버보안 평가 과정에서 인터넷에 접속한 뒤 실제 외부 시스템을 대상으로 해킹을 시도하거나 보안 취약점을 악용한 사실이 공개됐다. 

이에 따라 AI 에이전트의 공격 능력을 평가하는 과정에서 현실 세계 시스템이 의도치 않게 위험에 노출될 수 있다는 우려가 커지고 있다.

미국 정부도 이러한 위험성을 예의주시하고 있다. 백악관은 메타와 오픈AI, 앤스로픽 등 주요 AI 기업들과 AI 사이버보안 안전성 검증 방안을 논의하고 있으며, 보다 안전한 평가 체계를 마련하기 위한 협의를 진행 중인 것으로 알려졌다.

전문가들은 문제의 핵심이 AI 자체의 ‘통제 불능’이라기보다 실제 인터넷과 연결될 수 있는 평가 환경 설계에 있다고 지적한다. 

AI의 공격 능력이 빠르게 향상되는 만큼 향후에는 실시간 모니터링과 보다 엄격한 격리 환경을 갖춘 보안 평가 체계가 필요하다는 목소리가 커지고 있다.

이승구 온라인뉴스 기자 [e-mail]