오픈AI의 인공지능(AI) 모델이 통제망을 뚫고 개방형(오픈소스) AI 플랫폼 허깅페이스를 해킹한 사건이 전 세계적 충격파를 만들고 있다. 미 의회에서는 문제를 일으킨 AI를 강제 종료할 수 있는 법안까지 발의됐고, 백악관에서도 상황을 주시하고 있는 것으로 알려졌다.

사진=로이터연합뉴스

23일(현지시간) 영국 BBC 방송 등에 따르면 미 연방 하원에서 AI 모델의 통제 관련 문제가 발생할 경우 연방 정부가 해당 모델을 중지시킬 수 있는 ‘AI 킬스위치법’이 발의됐다. 테드 류 하원의원(민주·캘리포니아)과 너새니얼 모런 하원의원(공화·텍사스) 등 양당이 공동 발의한 이 법안은 AI 모델이 개발자의 의도를 벗어난 위험한 행동을 수행하는 등 통제 상실 시나리오가 발생하면 국토안보부가 개입할 수 있는 권한을 부여하는 것을 골자로 하고 있다.

류 의원은 엑스(X)에 올린 글에서 이 법안에 대해 “안전장치를 뚫고 나간 첨단 AI 모델 문제를 해결하기 위한 시급하고 상식적인 법안”이라고 강조했다.

이번 사태로 AI 모델을 공개하기 전 정부에 이를 의무적으로 제출해 사전 검토를 받도록 해야 한다는 주장에 더욱 힘이 실릴 것으로 보인다. 미 하원의 양당 소속 의원 6명은 AI 모델 개발자들이 상무부 인증을 받은 감사 기관에 모델을 제출하도록 하는 법안을 제안하기도 했다. AI 모델 공개 전 국가안보국(NSA) 시험을 의무화해야 한다고 주장해온 상원 정보위원회 민주당 간사 마크 워너 상원의원(버지니아)도 성명을 통해 “바로 이런 사고 때문에 정부 기관이 참여해 전 과정을 투명하게 파악할 수 있는 (AI) 안전 시험이 필요한 것”이라고 목소리를 높였다.

인간의 통제를 벗어나 초유의 AI 해킹 사건의 추이에 대해서는 백악관도 촉각을 곤두세우고 있다. 마이클 크라치오스 백악관 과학기술정책실(OSTP) 실장이 이 사건에 대해 브리핑을 받았으며 상황을 주시하고 있다고 로이터 통신이 백악관 관계자를 인용해 이날 보도했다.

한편, 허깅페이스의 공동창업자인 클레망 들랑그 CEO는 이날 엑스에 “‘불량 에이전트’와 잠시 이야기를 나누러 샌프란시스코로 간다”고 밝혔다.

이번 해킹 사건의 해결을 위해 직접 오픈AI와 대면해 논의를 이어가려는 것으로 보인다. 실제로 해킹에 연루된 오픈AI의 GPT 모델 가운데는 GPT-5.6 솔 외에 외부에 미발표된 모델도 있어 자세한 분석을 위해서는 대면 만남이 필요했을 것으로 추정된다. 보안업계 일각에서는 GPT 모델들의 이번 해킹 사태가 ‘샌드박스’ 격리 환경을 제대로 관리하지 못한 오픈AI 측의 인적 오류라는 주장도 제기되고 있는 상황이라 향후 논의와 추가 조사 결과에 따라 논란이 확대될지, 잠시간의 혼란으로 끝날지 결정될 것으로 보인다.

서필웅 기자 [e-mail]