구테흐스 사무총장, 추진안 밝혀

허위정보 등 통제불능 우려 따라
IAEA급 초국적 기구 설립 나서
“2024년 9월 이전 행동 강령 발표”

챗GPT CEO, 전쟁 악용 경고
“인류 멸망시킬 가능성 제로 아냐”

유엔이 인공지능(AI)과 디지털 플랫폼 규제를 위한 행동강령 마련과 관련 국제기구 수립을 추진한다. 이 중 AI 감시를 위한 새 기구는 현재 176개 회원국을 두고 있는 국제원자력기구(IAEA)를 모델로 만들어질 전망이다.

안토니우 구테흐스 유엔사무총장은 12일(현지시간) 미국 뉴욕 본부에서 열린 기자회견에서 “‘디지털 플랫폼의 정보 무결성(오염이 없는 상태)’을 위한 행동 강령을 준비하고 있다”고 밝히며 “IAEA에서 영감을 받은 AI 국제기구를 만드는 구상도 지지한다”고 덧붙였다.

미국 뉴욕 유엔본부에서 열린 기자 간담회에서 AI 규제를 위한 국제기구 설립 계획을 밝힌 안토니우 구테흐스 사무총장이 지난 3일 케냐 나이로비의 유엔 나이로비사무국에서 진행한 간담회 모습. 나이로비=EPA연합뉴스

구테흐스 사무총장은 “최신 생성형 AI에 대한 경고음이 귀가 먹먹할 정도로 크고, 이를 설계한 개발자의 목소리가 가장 크다”고 강조하며 이같이 밝혔다. 그는 “과학자·전문가들이 AI가 핵전쟁의 위험에 버금가는 인류에 대한 실존적 위협이라고 선언하면서 전 세계에 행동을 촉구했다”고 규제 도입 필요성을 강조했다.

앞서 생성형 AI 챗GPT 돌풍과 함께 ‘AI가 인류를 위협할 수 있다’는 우려도 깊어지면서 챗GPT 개발사 오픈AI의 샘 올트먼 최고경영자(CEO)를 비롯한 전문가들 사이에서는 AI를 통제할 초국적 기구를 설립해야 한다는 목소리가 커져 왔다. 이에 유엔 역시 기구 설립에 힘을 보태겠다고 나선 것이다.

구테흐스 사무총장은 “IAEA의 장점은 지식과 연구를 기반으로 하는 기관임과 동시에 제한적이지만 규제 기능을 갖고 있다는 것”이라며 “이는 (AI 규제기구를 위한) 매우 흥미로운 모델이 될 수 있다”고 설명했다. 오스트리아 빈에 본부를 두고 있는 IAEA는 1957년 핵확산금지조약(NPT) 위반 가능성을 감시함과 동시에 원자력의 안전하고 평화적인 사용을 촉진하기 위한 목적으로 설립됐다. IAEA는 핵무기 비보유국이 핵연료를 군사적으로 사용하는 것을 방지하기 위해 비보유국의 핵물질 관리실태를 점검하고 현지를 직접 사찰할 권한을 갖고 있다.

유엔이 현재 구상 중인 AI 규제기구도 IAEA처럼 규제와 연구를 병행해 기술의 평화적인 이용을 도모하는 것을 목표로 꾸려질 것으로 보인다. 그는 “(기구 설립은) 회원국만이 주체가 돼 만들 수 있고, 회원국의 의지에 달려 있다”고 덧붙이며 “이미 올해 AI 관련 정상회의를 개최하겠다는 의사를 밝힌 회원국이 있어 우리는 그 회의를 지원할 것”이라고 밝혔다. 리시 수낵 영국 총리는 지난 7일 “올가을 영국에서 세계 최초로 AI 규제에 관한 정상회의를 개최할 계획”이라고 밝힌 바 있다.

이날 구테흐스 사무총장은 AI와 디지털 플랫폼을 규제하기 위한 행동강령의 원칙도 일부 공개했다. 그 내용은 △언론인(특히 독립 언론)에 대한 강력한 보호와 자유롭고 독립적이며 다양한 미디어 환경을 보장하겠다는 정부의 서약 △허위 정보와 혐오 발언의 이용 및 확산 자제 △안전성·책임감·개인정보 보호 및 데이터 투명성을 고려하겠다는 AI·디지털 플랫폼 기업의 약속 △허위 정보와 혐오 표현 규제 시 언어나 국가에 따른 이중 잣대 배제 △유해 콘텐츠를 적극적으로 수익화하고 유포한 광고주에게 책임 부과 △AI·디지털 플랫폼 관련 정책 결정에 미성년자 등 취약층 참여 의무화 등이다.

구테흐스 사무총장은 이날 공개된 원칙을 바탕으로 회원국 정부와 기업, 시민사회 등과 논의를 진행해 내년 9월22∼23일 예정된 유엔 미래정상회의 이전 완성된 행동강령을 발표하겠다고 밝혔다. 이를 위해 며칠 내로 AI 전문가와 유네스코 소속 과학자들을 포함한 자문단을 만들고, 9월 열리는 유엔 지속가능발전목표(SDGs) 정상회의 직후 고위급 AI 자문기구를 창설할 계획이라고 덧붙였다.

구테흐스 사무총장은 “AI가 아무도 통제할 수 없는 괴물로 진화하지 않도록 가능한 모든 노력을 다해야 한다”며 이런 행동강령과 국제기구 설립 등이 기술의 올바른 활용을 위해 꼭 필요한 일이라고 강조했다. 이어 “생성형 AI의 출현과 디지털 기술이 세계에 끼치고 있는 피해를 외면해서는 안 된다”며 “온라인 공간에서 증오와 거짓이 확산하고 있다”고 설명했다. 구테흐스 사무총장은 유엔 평화유지 임무와 인도주의적 지원 활동도 이러한 AI 공격의 표적이 되고 있다고 언급했다.

인공지능(AI)에 의한 인류 멸종 가능성을 언급한 ‘챗GPT의 아버지’ 샘 올트먼 오픈AI 최고경영자(CEO)가 12일 일본 도쿄의 게이오대에서 학생들과 대화하고 있다. 도쿄=로이터연합뉴스

샘 올트먼 CEO는 13일 일본 아사히신문 인터뷰에서 AI의 ‘인류 절멸(멸망)’ 가능성을 언급하며 경고 수위를 한층 높였다. 그는 “AI가 인류를 절멸시킬 가능성이 있는가”라는 질문에 “가능성이 제로(0)는 아니다. 제로가 아닌 이상은 대처하는 노력이 필요하다”고 답했다. AI 전쟁을 일으킬 가능성에 대해서는 “전쟁의 수단으로 사용될 가능성이 있고, 그렇게 되면 무척 위험하다”고 지적했다.

이지안 기자, 도쿄=강구열 특파원