[월드이슈] ‘AI 킬러로봇’ 논란 증폭… 첫 유엔 논의 주목

13일 제네바서 CCW회의 / “넘어선 안 될 선” “3차 대전 우려” / 테슬라 머스크, 구글 술레이만… / 각국 전문가들 금지 공식 촉구

“‘킬러 로봇’ 개발은 판도라의 상자를 여는 것이다.”

국제사회가 인공지능(AI)을 기반으로 한 자동화 무기, 이른바 킬러 로봇 규제를 놓고 머리를 맞댄다. AFP통신은 13일(현지시간) 스위스 제네바에서 시작되는 특정재래식무기금지협약(CCW) 회의에서 킬러 로봇이 논의된다고 전했다. 유엔이 AI가 탑재돼 스스로 가동하는 무기의 부작용 등을 논의하는 건 이번이 처음이다.

앞서 세계 각국의 AI 전문가 130여명은 지난 8월 ‘치명적인 자동화 무기를 만들지 못하도록 금지해달라’는 내용의 공개서한을 유엔에 보냈다. 전기차 업체 테슬라의 일론 머스크, 구글 딥마인드 공동창업자 무스타파 술레이만, AI 최고 석학 중 한 명인 캐나다 몬트리올대 요슈아 벤지오 교수 등은 특히 “AI 기술을 활용한 자동화 무기는 도덕적으로 넘어서는 안 될 선을 넘는 것”이라며 “최악의 경우 사람이 아닌 기계가 인명의 생사를 결정할 수 있다”고 경고했다.

시민단체들은 킬러 로봇이 인간의 통제를 벗어나면서 선량한 민간인에게 엄청난 피해를 줄 수 있다고 우려하고 있다. 시민단체 ‘킬러로봇을 막을 캠페인’(Campaign to Stop Killer Robots)은 “컴퓨터가 전쟁 범죄의 피의자가 될 수 없기 때문에 킬러 로봇은 개념상 불법”이라고 주장하고 있다. 독재자나 테러리스트의 손에 킬러 로봇이 넘어가거나 해킹을 당하면 대형 참사가 빚어질 수도 있다.

킬러 로봇 개발 경쟁이 뜨거워지면서 구체적 정책이 확정되기 전에 국가 간 전쟁이나 지역 간 분쟁에 활용될 소지도 있다. 미국 국방부는 장애물을 알아서 피하고 적과 아군을 구별할 수 있는 AI 기반 드론을 지난해 공개했다. 로봇회사 보스턴다이내믹스는 두 다리로 전장을 누비는 인간형 로봇 ‘아틀라스(사진)’를 발표했다. 로봇 보초병, 자율주행 탱크 등의 시제품 개발 소식도 들려온다. 명령만 하면 로봇이 인간을 공격하는 일이 가능해진 것이다. 머스크는 “모든 나라가 AI에서 우위를 점하기 위해 경쟁하면서 제3차 세계대전을 일으킬 가능성이 높다”고 주장했다.

AI 전문가들이 상황을 심각하게 받아들이고 있지만 이번 CCW 회의에서는 킬러 로봇에 대한 구체적인 규제안이 나오지는 않을 것으로 보인다. 대부분의 기술 선진국들이 AI 기반의 무기체계 개발에 적극적이기 때문이다. 킬러 로봇을 전면 금지해야 하는지, 인류에 피해를 주지 않도록 적정 수준에서 규제하는 게 좋은지를 두고도 논란이 될 것이라는 설명이다.

이번 CCW 회의를 주재하는 아만디프 길 인도 군축대사는 “이제 출발선에 섰을 뿐”이라며 “단칼에 금지하는 게 쉬운 처방이지만 매우 복잡한 문제의 결론을 바로 내리는 것은 현명하지 않다”고 밝혔다.

정재영 기자 [e-mail]