美보고서 “AI, 인간 멸종 수준의 위협될 수도… 개입 필요성”

미국 국무부 의뢰로 작성된 보고서
“핵무기처럼 안보 불안정하게 할 수도”

미국 국무부 의뢰로 작성된 보고서에서 최악의 경우 인공지능(AI)이 “인간종 멸종 수준의 위협”이 될 수 있다는 경고가 나왔다. 보고서는 AI가 핵무기 도입을 연상시키는 방식으로 세계 안보를 불안정하게 할 잠재력이 있다며 미국 정부가 개입해야 할 필요성이 있다고 설명했다.

12일(현지시간) CNN방송에 따르면 글래드스톤 AI는 보고서를 내고 빠르게 진화하는 AI로 인해 ‘재앙적’ 국가 안보 위험이 발생할 수 있으며 정부가 이 재난을 피할 수 있는 시간이 얼마 남지 않았다고 분석했다.

보고서는 주요 AI 기업 경영진, 사이버 보안 연구원, 대량살상무기 전문가, 정부 내 국가 안보 관계자 등 200여명과 1년여에 걸친 인터뷰를 바탕으로 작성됐다. 미 국무부 관계자는 CNN에 국내외에서 AI가 미국의 이익 보호에 부합하지는 평가하기 위해 조사를 의뢰했다고 전했다. 다만 보고서가 미국 정부의 견해를 대변하는 것은 아니라고 설명했다.

보고서는 AI의 잠재력이 투자자와 대중을 사로잡고 있지만 실제 위험이 존재한다고 강조했다. 글래드스톤AI의 최고경영자(CEO) 겸 공동 설립자인 제레미 해리스는 CNN에 “AI는 이미 혁신적인 기술로 질병을 치료하고 과학적 발견할 수 있게 하는 등 한때 극복할 수 없다고 생각했던 문제를 가능하게 한다”면서도 “(AI가) 재앙적 위험을 포함한 심각한 문제를 초래할 수 있으므로 주의해야 한다”고 지적했다. 그는 “세계 최고의 AI 콘퍼런스에서 발표된 경험적 연구를 포함해 점점 더 많은 증거가 나오고 있다”며 “특정 임계 값을 넘어서면 AI는 통제될 수 없게 된다는 것을 시사한다“고 말했다. 

보고서는 AI의 핵심 위험을 2가지로 정리했다. 먼저 AI가 무기화돼 잠재적으로 돌이킬 수 없는 피해를 입히는 경우다. 다른 하나는 통제력을 상실하는 상황이다. 보고서는 AI를 연구하는 시스템이 통제력을 상실해 “잠재적으로 글로벌 보안에 치명적인 결과를 초래할 수 있다”고 우려했다.

또한 보고서는 “AI와 AGI(범용인공지능)의 부상이 핵무기 도입을 연상시키는 방식으로 세계 안보를 불안정하게 만들 잠재력이 있다”며 ‘AI 무기경쟁’과 ‘대량살상무기 규모의 치명적인 사고 위험’이 있다고 덧붙였다. 그러면서 이러한 위협에 대응하기 위해 새로운 AI 기관을 설립하고 ‘긴급 규제 안전장치‘ 마련 및 AI 모델 훈련에 사용되는 컴퓨터 성능 제한 등 새로운 조치를 취해야 한다고 촉구했다. 보고서 저자들은 “미국 정부가 개입해야 할 분명하고 긴급한 필요성이 있다“고 강조하기도 했다.

사진=로이터연합뉴스

해리스는 또한 오픈AI, 구글 딥마인든, 메타 팀 등과 대화를 나눈 결과 “몇 가지 냉정한 사실을 알게됐다”며 AI 안전 및 보안 상황이 국가 안보 위험에 부적절할 것으로 보인다고 전했다. 그는 보고서에 AI경쟁으로 인해 기업들이 안전과 보안을 희생하면서까지 AI 개발을 가속화하고 있다고 짚었다. 이에 가장 진보된 미국 AI 시스템이 ‘도난’ 당하거나 ‘무기화’될 수 있다는 전망을 제시했다.

보고서 내 지적처럼 AI업계에선 AI의 위험성에 대한 경고가 늘고 있다. 약 1년 전 ‘AI대부’로 알려진 제프리 힌튼은 구글에서 개발에 참여했던 AI기술을 토대로 향후 30년 내 AI로 인해 인류가 멸종할 확률이 10%라고 폭로한 바 있다. 지난해 예일대 CEO 서밋 설문조사에 참여한 CEO의 42%는 AI가 5∼10년 후 인류를 멸망시킬 가능성이 있다고 답하기도 했다.

인간지능에 가깝거나 오히려 더 뛰어나 범용성 및 자율성을 갖춘 AI인 AGI 진화 속도에 대한 우려도 나왔다. 보고서는 “AGI가 통제력을 상실하면 재앙적 위험의 주요 원인이 될 수 있다“고 전했다. 또한 오픈AI, 구글 딥마인드, 엔비디아 등이 2028년까지 AGI에 도달할 수 있다고 밝힌 계획이 실제로는 불가능할 수 있다며 AGI 가능성에 대한 의견 불일치로 정책 및 안전장치 개발이 어려울 수 있다고 지적했다.

이민경 기자 [e-mail]