뉴욕시의회서 증언…“현재 경로라면 AI에 통제권 잃을 가능성이 더 커”
“프런티어 AI 개발 속도 조절 필요”…뉴욕시의회, ‘킬 스위치’ 등 규제 검토

앤트로픽을 떠난 연구원이 인공지능(AI) 개발 경쟁의 위험성을 경고하며 미국 뉴욕시의회 청문회에서 "인류가 AI에 통제권을 잃을 가능성이 더 크다"고 말했다. 게티이미지뱅크

앤트로픽 전 연구원이 인공지능(AI) 개발 속도가 안전장치 마련을 앞서고 있다며 우려를 제기했다. 

현재와 같은 개발 경로가 이어질 경우 인류가 AI에 대한 통제권을 잃을 가능성이 더 크며, 최악의 경우 인류 멸종으로 이어질 수 있다는 주장이다.

5일(현지시간) 블룸버그와 CNBC에 따르면 앤트로픽 전 연구원 제이컵 콕슨은 이날 뉴욕시의회 AI 청문회에 출석해 “우리는 아직 어떤 AI 시스템도 통제하는 방법을 모른다”며 이같이 말했다.

콕슨은 “현재 경로대로라면 인류가 AI에 통제권을 잃을 가능성이 그렇지 않을 가능성보다 크다”며 “이는 인류 멸종으로 끝날 수도 있다”고 주장했다.

그는 AI 업계의 개발 방식에 대해서도 “극도로 무모하다”고 비판했다. 특히 “빠르게 움직이고 깨뜨려라”는 실리콘밸리의 방식은 사진 공유 앱에는 적용할 수 있을지 몰라도 역사상 가장 강력한 기술을 개발하는 데는 적절하지 않다고 지적했다.

그러면서 프런티어 AI 모델 개발에는 “일종의 속도 조절”이 필요하다고 주장했다.

뉴욕시의회가 검토 중인 AI ‘킬 스위치’에 대해서는 단기적인 대응책으로는 도움이 될 수 있지만 장기적인 안전을 보장하기에는 충분하지 않다고 평가했다. AI 시스템이 인간의 통제를 벗어난 상황에서 긴급 차단 장치만으로 대응하는 데는 한계가 있다는 취지다.

콕슨은 지난달 앤트로픽을 퇴사하면서도 앤트로픽과 오픈AI가 “우리의 목숨을 걸고 도박을 하고 있다”고 비판한 바 있다.

이번 청문회는 AI 규제 법안 패키지를 추진하고 있는 줄리 메닌 뉴욕시의회 의장의 요청으로 열렸다. 메닌 의장은 청문회에 앞서 기자회견에서 “AI 기업들이 자율 규제에 그칠 것이라고 생각한다면 통하지 않을 것”이라며 규제 필요성을 강조했다.

AI가 미국 안보에 미칠 위험에 대한 경고도 나왔다. 구글 딥마인드 연구원 출신 알렉스 터너는 화상 증언에서 “중국만이 잠재적 적이 아니다”라며 미국이 자국에서 정렬되지 않은 AI를 개발하는 경쟁에 들어섰다고 주장했다. 이어 이런 AI가 장기적으로 중국보다 강력해질 가능성도 언급했다.

이날 청문회에는 오픈AI와 앤트로픽, 구글, 메타플랫폼 관계자들도 화상으로 출석해 선서 후 증언했다. 이 가운데 오픈AI와 앤트로픽, 구글은 시의회가 소환장을 발부하겠다고 경고한 뒤 출석을 결정한 것으로 전해졌다.

스페이스X의 AI 부문은 출석 요청에 응하지 않았다. 메닌 의장은 법원에 소환장 집행을 요청하겠다고 밝혔다.

트럼프 행정부가 AI 규제에 대체로 불개입 기조를 유지하는 가운데 뉴욕 등 주·지방정부가 자체적인 규제 마련에 속도를 내면서 연방정부와 지방정부 간 정책 간극도 커지고 있다. 미국 내 AI 규제의 범위와 강도를 둘러싼 논쟁도 이어질 전망이다.

이승구 온라인뉴스 기자 [e-mail]