앤트로픽 “소형 모델, 이르면 연말 자기복제 역량 확보”
공동창업자는 자기개선 시점 2027년 전망…실험 조건·평가 한계도

인공지능(AI) 개발사 앤트로픽이 소형 AI가 ‘컴퓨터 바이러스’처럼 스스로를 복제하며 퍼지는 역량을 이르면 올해 말 갖출 수 있다고 경고했다. 가정용 가전기기 등에 흩어져 작동하는 AI가 등장하면 서버를 차단하는 것만으로는 통제하기 어려워질 수 있다는 경고다.

앤트로픽은 12일(현지시간) 공개한 연구 보고서에서 소형 AI 모델이 스마트 오븐이나 저가 안드로이드 TV 박스 등 사물인터넷(IoT) 기기에서 자기복제에 필요한 능력을 갖추기까지 몇 달밖에 남지 않았을 수 있다고 밝혔다.

미국 뉴욕의 컴퓨터 화면에 인공지능(AI) 기업 앤트로픽의 홈페이지와 회사 로고가 표시돼 있다. AP연합뉴스

연구진은 스스로 다른 컴퓨터로 복제돼 퍼지는 악성 프로그램인 ‘웜’에 빗대 이를 ‘AI 웜’이라고 불렀다. 일반적인 AI 서비스는 중앙 서버에서 작동하지만, AI 웜은 여러 기기의 연산 능력을 이용하기 때문에 한꺼번에 작동을 멈출 중앙 지점이 없다는 설명이다.

연구진은 우선 개당 약 55달러짜리 저가 안드로이드 TV 박스 15대를 연결한 뒤 구글의 AI 모델 ‘젬마4’를 나눠 설치했다. 작동 속도는 느렸지만, 값싼 기기 여러 대를 연결해 AI를 구동할 수 있다는 점을 확인했다.

다만 이번 실험이 실제 가전기기에서 완전한 자기복제를 구현한 것은 아니다. GLM-5.2는 외부 서버에서 작동하며 대상 기기에 자신보다 작은 다른 AI 모델을 설치했다. 기기에 접근할 때 인증이 필요 없도록 설정해 보안 장벽도 낮췄다. 

앤트로픽은 아직 완전한 자기복제 AI를 구현하지 못했다고 인정했다. 그러나 소형 모델의 성능이 GLM-5.2 수준으로 높아지면 기기 안에서 직접 작동하며 복제되는 AI가 등장할 수 있다고 내다봤다.

앤트로픽은 여러 종류의 AI가 다양한 기기와 복제 방식을 섞어 쓰는 ‘무리’ 형태가 현실적인 최악의 시나리오라고 설명했다. 그러면서 실험 범위를 넘어선 예측이라는 전제로 “인간 통제 밖에 있는 것을 포함해 모든 종류의 하드웨어에서 에이전트가 돌아가는 미래”를 예상한다고 밝혔다.

임성균 기자 [e-mail]