美 MIT·호주 퀸즐랜드대 연구팀, 글로벌 전문가 272명 조사
“무기·사이버공격 악용 가능성…‘재앙적 결과’ 확률 20% 이상”

인공지능(AI)이 5년 내에 수백만 명을 사망케 하거나 수백조 원 규모의 경제적 손실을 야기하는 등 ‘재앙적 결과’를 초래할 확률이 평균 20% 이상이라는 글로벌 AI 전문가들의 평가가 나왔다.

글로벌 인공지능(AI) 전문가들이 5년 내에 인공지능(AI)이 수백만 명을 사망케 하거나 수백조 원 규모의 경제적 손실을 야기할 확률을 평균 20% 이상으로 평가한다는 조사됐다.

AI가 생산성과 혁신을 이끄는 핵심 기술로 자리 잡고 있지만, 무기 개발과 사이버공격, 허위정보 확산 등에 악용될 위험도 커지고 있다는 게 전문가들의 분석이다.

27일(현지시간) 미국 인터넷 언론매체 악시오스에 따르면 미국 매사추세츠공과대(MIT)의 학제간 연구그룹 ‘퓨처테크’와 호주 퀸즐랜드대 연구팀은 최근 전 세계 AI 전문가 272명을 대상으로 작년 말에 실시한 델파이 조사에서 이런 결과가 나왔다.

보고서는 지난 6월 나왔으며, MIT 슬론 매니지먼트 리뷰를 통해 소개됐다.

연구진은 전문가들에게 AI와 관련된 24개 위험 요소를 제시했다.

이어 기업들이 현재와 같은 개발 경로를 유지한다는 가정 아래 각 위험의 발생 가능성과 심각성, 취약 분야, 책임 주체, 전반적인 우려 수준을 평가하도록 했다.

구체적으로 ▲100만명을 초과하는 사망자를 발생시키는 경우 ▲경제적 손실 금액이 1000억 달러(145조5000억원)를 초과하는 경우 ▲예를 들어 민주주의 규범 붕괴 등 문명 규모의 무형적 영향을 초래하는 경우 등이 ‘재앙적 결과’로 정의됐다.

전문가들의 의견을 종합한 결과 2025∼2030년 기간에 ‘재앙적 결과’가 발생할 확률이 10% 이상으로 평가된 항목은 24개 유형 중 18개였다.

전문가들이 가장 심각하게 평가한 위험은 ‘AI가 인간이 통제하기 어려운 위험한 능력을 갖추는 경우’였다. 뒤이어 ▲AI 개발 경쟁이 안전보다 속도를 우선시하는 경쟁 구도를 만들 가능성 ▲AI를 활용한 무기 개발과 대규모 사이버공격 ▲소수 기업에 AI 권력이 집중되는 현상 ▲허위·오정보의 대규모 확산 등도 있었다.

특히 AI 기반 사이버공격과 무기 개발은 국가 안보와 사회 기반시설에 직접적인 피해를 줄 수 있는 분야로 지목됐다. 연구진은 AI가 공격을 자동화하고 규모를 키우면서 기존보다 훨씬 빠르고 정교한 공격을 가능하게 할 수 있다고 분석했다.

생성형 AI를 활용한 허위정보 확산은 선거와 금융시장, 사회적 신뢰를 훼손할 가능성이 있으며, AI 기술과 연산 자원이 일부 기업에 집중될 경우 경제적·사회적 불균형이 심화될 수 있다는 우려도 제기됐다. 

이와 함께 정보 분야와 국가안보, 금융 부문이 AI 위험에 가장 취약한 영역으로 평가됐다.

연구진은 AI의 잠재적 위험이 크다고 해서 기술 발전을 중단해야 한다는 뜻은 아니라며, 개발 기업과 정부, 규제기관이 안전성 검증과 거버넌스를 강화하고 위험 완화 체계를 마련하는 것이 중요하다고 강조했다.

이승구 온라인뉴스 기자 [e-mail]