앤트로픽의 다리오 아모데이 최고경영자(CEO) 등 인공지능(AI) 업계 수장들이 AI가 인류에게 파멸적 결과를 초래할 수 있다며 ‘속도 조절’을 주장하는 데 대해 도널드 트럼프 미국 대통령이 현 방식을 유지해야 한다는 뜻을 밝혔다.

트럼프 대통령은 아일랜드를 방문 중인 13일(현지시간) ‘AI 업계가 속도를 조절하거나 더 많은 규제를 해야 하나’라는 질문을 받고 “솔직히 말해 AI(경쟁)에서 이기는 쪽이 승리하기 때문에 나는 이 방식을 유지하고 싶다”고 말했다. 그는 “우리는 AI에서 중국을 앞서고 있다. 우리는 세계에서 가장 기술적으로 발전한 나라”라며 이같이 밝혔다.

다리오 아모데이 앤트로픽 최고경영자(CEO)와 도널드 트럼프 미국 대통령. AP·AFP연합뉴스

트럼프 대통령은 또 “우리는 안전장치를 둘 수 있다. 이것저것 할 수 있다”며 “내 생각에 부각하지 말아야 할 일을 부각하는 부정적 세력이 너무 많다. 그들은 일어나지 않을 일을 부각하고 있다”고 지적했다.

트럼프 대통령은 “AI에서 승리하는 사람이 승자가 된다”며 “이건 내가 만든 표현인데 그건 사실”이라고 강조했다.

트럼프 대통령의 발언은 최근 AI 업계의 우려와 대비된다. 앤트로픽을 이끄는 다리오 아모데이 최고경영자(CEO)는 12일(현지시간) 자신의 블로그에 올린 글에서 “AI 모델의 성능 향상 속도를 늦춰야 한다”며 “발전은 여전히 빠르게 느껴지겠지만, 확보된 시간을 현명하게 활용해야 한다”고 주장했다.

그는 “지난 몇 달간 저는 위험을 완전히 해결하려면 훨씬 더 신중해야 한다는 확신을 갖게 됐다”며 “단순히 위험 예방에 투자하는 것뿐만 아니라, 위험 예방이 (AI 모델 성능 향상 속도를) 따라잡을 수 있도록 역량 발전 속도를 조절해야 한다”고 당부했다.

아모데이 CEO는 인간의 개입 없이도 AI 모델이 스스로 발전할 수 있는 ‘재귀적 자기개선’, 지난 7월 오픈AI의 미공개 AI 모델들이 테스트 중 글로벌 오픈소스 AI 플랫폼 ‘허깅페이스’를 무단 해킹한 사건을 계기로 이날 글을 쓰게 됐다고 밝혔다. 

아모데이 CEO의 글이 올라오자 샘 올트먼 오픈AI CEO는 X에 “다리오의 의견에 동의한다”고 밝혔다. xAI의 일론 머스크도 “다리오가 맞다”고 했다. 데미스 허사비스 딥마인드 창업자도 X를 통해 “다리오의 방향성은 옳다”고 호응했다.

올트먼 CEO는 이날 공개된 경제전문지 포천과의 인터뷰에서 AI 안전 우려를 들어 연내 오픈AI 상장 계획을 미루겠다는 뜻을 밝히기도 했다. 올트먼은 “안전과 정렬을 위해 필요한 과제들을 해결하고 업계와 정부가 어떻게 협력할지 모색하는 등 해야 할 일이 많다”며 “(IPO가) 2026년은 아닐 것”이라고 말했다.

최근 AI 업계에서는 AI가 인간의 통제를 벗어나 인류 종말로 이어질 수 있다는 경고가 잇따라 나오고 있다. 최근 앤트로픽 연구원 제이콥 콕슨은 엑스(X·옛 트위터)에 AI가 10년 안에 인류를 파멸시킬 수 있다고 경고하며 퇴사했다. 콕슨은 퇴사 이후 13일 BBC 방송과 인터뷰에서 “현재의 개발 속도를 늦추지 않으면 가까운 미래에 모두가 목숨을 잃을 가능성이 매우 높다고 생각한다”며 AI 연구진들이 인류의 미래를 진심으로 우려하고 있다고 말했다. 콕슨은 특히 슈퍼컴퓨터처럼 행동하는 봇들이 인터넷을 장악하는 시나리오가 6개월 내지 1년 내에 현실화할 수 있다고 말했다.

오픈AI 직원 마커스 윌리엄스는 “AI 규제가 도입되거나 개발 속도가 조절되지 않으면 향후 몇 년 내에 인류가 멸종될 가능성이 크다”고 우려했다. 구글과 오픈AI에서 근무했던 제프리 어빙도 자신의 엑스에 “초지능으로 우리가 사망할 확률이 50% 정도라고 생각한다”고 했다. 

송은아 선임기자 [e-mail]