안토니우 구테흐스 유엔 사무총장이 인공지능(AI)을 활용한 자율무기를 ‘살인 로봇’으로 규정하며 규제 필요성을 역설했다. 

6일(현지시간) 미국 월스트리트저널(WSJ) 등에 따르면 구테흐스 사무총장은 이날 스위스 제네바에서 열린 AI 거버넌스 관련 행사 연설에서 “치명적 자율무기는 도덕적으로 혐오스러운 것”이라며 규제 마련을 촉구했다. 그는 “기계가 인간의 통제나 판단 없이 표적을 선정하고 공격해 생명을 앗아가는 것은 윤리적으로 용납할 수 없다”며 치명적 자율무기를 국제법으로 금지해야 한다고 강조했다. 이어 “잔혹한 일이 벌어질 때까지 기다려서는 안 된다”며 “어떤 결정들은 영원히 인간이 해야 하며, 그중에서도 타인의 생명을 앗아가는 결정만큼 중요한 일은 없다”고 말했다.

안토니우 구테흐스 유엔 사무총장. 로이터연합뉴스

올해 초 도널드 트럼프 행정부와 AI 기업 앤트로픽이 AI 자율무기 관련 규제에 대한 이견으로 격렬하게 대립한 바 있다. 앤트로픽은 자사의 AI 모델을 대규모 감시나 자율 살상 무기 등에 사용해서는 안 된다는 입장을 피력했지만, 국방부는 합법적인 모든 활동에 사용할 수 있어야 한다고 주장했다. 이후 관련 논쟁이 AI 시대 주요 화두 중 하나가 됐고 이런 흐름 속 구테흐스 사무총장의 이번 발언이 나왔다.

민간용으로 설계된 AI 시스템은 전장과 군 지휘부에 점점 더 많이 배치되고 있는 상황이다. WSJ는 이에 따라 군이 언제 AI를 사용하고, 언제 인간이 개입해야 하는지에 관한 논쟁이 끊임없이 불거지고 있다고 평했다. 

AI 무기 사용을 지지하는 측과 방위산업 관계자들은 자율무기가 여전히 인간의 통제하에 있으며, AI 덕분에 인간이 고도의 작전을 빠르고 정확하게 수행할 수 있게 될 것이라고 옹호한다. 반면, 반대 측은 AI도 실수를 저지르기 때문에 긴박한 상황에서 인간이 기계에 통제권을 넘기는 것은 위험하다는 반론도 있다. 심지어 일각에서는 AI 시스템이 인간의 통제를 벗어나 인간을 공격할 수 있으며, AI에 무기를 장착하는 것은 그런 위험을 가속할 뿐이라는 주장도 나온다.  

WSJ은 AI 시스템을 어떻게 규제해야 하는지에 관한 논쟁이 여전히 격렬하다면서, 미국 정부가 AI 모델 출시 전 안전성을 검증할 수 있는 절차를 마련 중이라고 전했다.

서필웅 기자 [e-mail]