WP “협상 막판 핵심 조항 삭제”…인간 검토·예측 가능성 빠져
AI 무기 전장 확산 속 국제 규범 ‘난항’…11월 후속 논의

미국과 러시아가 유엔의 치명적 자율무기(LAW) 규제 협상에서 인공지능(AI) 무기의 안전한 운용을 위한 핵심 조항들을 삭제하는 데 주도적 역할을 했다는 소식이 전해졌다. 게티이미지뱅크

인공지능(AI)을 활용한 무기체계가 실제 전장에 투입되는 가운데 국제사회의 자율무기 규제 논의에서 핵심적인 안전장치들이 빠진 것으로 알려졌다.

미국과 러시아가 유엔 협상 막바지 문안 수정에 주도적으로 관여하면서 AI 무기의 운용에 대한 인간의 통제와 예측 가능성을 담은 조항들이 삭제됐다는 것이다.

◆ 유엔 협상 막판…‘인간 검토’ 등 안전장치 빠져

미국 일간 워싱턴포스트(WP)는 26일(현지시간) 익명의 소식통들을 인용해 이달 초 스위스 제네바에서 열린 유엔의 치명적 자율무기(LAW) 규제 협상에서 미국과 러시아 외교관들이 막판 약 15시간 동안 문안을 집중적으로 수정했다고 보도했다.

보도에 따르면 이 과정에서 AI 무기체계가 ‘예측 가능하고 신뢰할 수 있는’ 방식으로 운용돼야 한다는 내용이 삭제됐다. AI 무기를 사용할 때 윤리적 고려를 의무화하는 조항과 AI가 선정한 군사 표적을 공격하기 전 인간이 검토하도록 하는 규정도 문안에서 빠진 것으로 전해졌다.

협상 내용을 알고 있다는 익명의 소식통 3명은 회의장 카메라가 꺼지고 시민사회 참관인들이 퇴장한 비공개 회의에서 미국과 러시아가 각각 약 10명의 법률 전문가를 투입했다고 WP에 전했다.

이들은 다른 대표단보다 거의 2배 많은 인력을 동원해 문안을 빠르게 수정했고, 규모가 작은 대표단들은 이에 대응하는 데 어려움을 겪었다는 게 소식통들의 설명이다.

한 소식통은 협상 과정에 대해 “수많은 사소한 수정이 누적돼 합의가 서서히 죽어갔다”고 표현했다.

미 국무부와 러시아 외무부, 유엔은 WP의 관련 질의에 답변하지 않았다.

유엔의 치명적 자율무기 협상은 AI 기반 무기가 전장에서 사용되는 방식을 규율하려는 국제사회의 가장 진전된 논의로 평가된다. 현재로서는 법적 구속력이 없지만, 회원국 합의가 이뤄지면 구속력 있는 국제조약으로 발전할 수 있다. 게티이미지뱅크

유엔의 치명적 자율무기 협상은 AI 기반 무기가 전장에서 사용되는 방식을 규율하기 위한 국제사회의 주요 논의 가운데 하나다. 현재는 법적 구속력이 없지만, 회원국 간 합의가 이뤄질 경우 향후 국제조약으로 발전할 가능성이 있다.

각국은 오는 11월 다시 스위스 제네바에 모여 협상을 공식적인 위임 절차로 전환할지, 법적 구속력을 갖는 조약 마련에 나설지를 논의할 예정이다.

◆ AI 무기 이미 전장으로…인권단체 “책임성 약화 우려”

국제 인권단체들은 협상 문안에서 안전장치가 빠진 데 대해 우려를 나타냈다.

휴먼라이츠워치(HRW)의 베리티 코일 위기·분쟁·무기 부문 부국장은 규제가 약화될 경우 기계가 인간의 통제 없이 생사를 좌우하는 결정을 내릴 수 있다고 지적했다. 그는 민간인 피해와 책임성 문제를 악화시키고 자동화된 전쟁으로 이어질 수 있다고 우려했다.

국제 비정부기구 연대인 ‘킬러 로봇 반대 캠페인’의 니콜 판 로에이엔 사무총장도 미국과 러시아가 자율무기에 대한 법적 구속력 있는 규칙에 찬성하지 않는다며 협상 결과에 과도한 영향력을 행사하고 있다고 비판했다.

AI의 군사적 활용은 이미 현실화하고 있다.

WP는 미군이 이란 전쟁 첫 24시간 동안 앤트로픽의 챗봇을 활용해 약 1000개의 공격 표적을 식별했다고 보도했다. 이스라엘 역시 가자지구 군사작전에서 AI를 활용하는 것으로 알려졌다.

국제사회의 핵심 쟁점은 AI 무기체계가 인간의 의미 있는 통제 없이 생사와 직결되는 결정을 내리는 것을 어떻게 막을 것인지다. 게티이미지뱅크

◆ 미국도 자율무기 지침 개정…국제 규범과 간극

미국 내에서도 자율무기 운용 기준을 둘러싼 제도 정비가 진행 중이다.

도널드 트럼프 미국 대통령은 지난 6월 국방부의 자율무기 지침을 90일 이내에 갱신하도록 하는 국가안보 각서를 발령했다. 다만 새로운 지침은 아직 공개되지 않았다.

2023년 조 바이든 행정부 당시 마련된 기존 지침에는 자율·반자율 무기체계를 점검할 때 인간의 판단을 적용해야 한다는 내용과 AI 무기 운용자가 전쟁법과 관련 조약을 준수해야 한다는 조항 등이 포함돼 있다.

WP는 이 같은 기존 미국 지침의 내용이 이번 유엔 협상에서 삭제된 것으로 알려진 조항들과 유사하다고 지적했다.

코일 부국장은 미국이 군사적·기술적 우위를 유지하려 할 때 법적 구속력이 있는 규칙보다는 자발적인 지침을 선호해 왔다고 주장했다. 그러면서 사이버·우주 분야의 군비 통제 논의에서도 비슷한 접근이 나타났으며 자율무기도 예외가 아니라고 지적했다.

치명적 자율무기는 AI가 센서와 영상 등의 정보를 분석해 표적을 식별·추적하고, 공격 여부 판단이나 무기 운용의 일부 또는 전부를 수행할 수 있는 무기체계를 말한다.

국제사회의 핵심 쟁점은 이 같은 무기체계가 인간의 의미 있는 통제 없이 생사와 직결되는 결정을 내리는 것을 어떻게 막을 것인지다. AI의 군사적 활용이 현실화하면서 국제사회가 어디까지 인간의 개입을 의무화하고 어떤 수준의 규범을 마련할지를 두고 논의가 이어질 전망이다.

이승구 온라인뉴스 기자 [e-mail]