KAIST 연구팀, AI 에이전트 숨은 에너지 소모 비용 규명
“AI에이전트 보편화되면 데이터센터 전력 수요 더 폭증”

인공지능(AI)이 스스로 생각하고 행동하는 'AI 에이전트'는 기존 생성형 AI보다 질문 한 건당 최대 136.5배 많은 에너지를 사용하는 것으로 나타났다. 생성형 AI로 만든 이미지

인공지능(AI)이 스스로 생각하고 행동하는 ‘AI 에이전트’가 기존 생성형 AI보다 질문 한 건을 처리하는데 최대 136배 많은 전력을 소비한다는 연구 결과가 나왔다.

AI 에이전트가 보편화되면 데이터센터 전력 수요가 지금보다 크게 늘어날 수 있다는 분석이다.

한국과학기술원(KAIST)은 전기및전자공학부 유민수 석좌교수 연구팀이 AI 에이전트의 실제 서비스 환경에서 얼마나 많은 계산 자원과 전력을 사용하는지를 체계적으로 분석해 이 같은 결과를 확인했다고 5일 밝혔다.

최근 오픈AI와 구글, 앤트로픽 등 글로벌 빅테크가 AI 에이전트 경쟁을 본격화하는 가운데 전력과 데이터센터 효율 문제가 새로운 산업 과제로 떠오르고 있다.

연구팀은 AI 에이전트를 데이터센터 서버와 그래픽처리장치(GPU)가 지속적으로 계산 자원을 사용하는 새로운 작업 형태로 보고 계산량과 전력 소비를 분석했다.

분석 결과, AI 에이전트는 기존의 단계별 추론(CoT·AI가 사람처럼 생각 과정을 하나씩 전개하며 답을 찾는 방식)과 달리 여러 차례 대형 언어모델(LLM)을 반복 호출하면서 계산을 수행하는 것으로 나타났다.

AI 에이전트의 답변 시간은 최대 153.7배 늘어났으며, 외부 도구가 작업을 수행하는 동안 GPU는 전체 실행 시간의 최대 54.5%를 아무 계산도 하지 못한 채 대기하는 것으로 분석됐다.

AI 에이전트의 주요 특성과 인프라 시사점. 한국과학기술원(KAIST)

AI가 복잡한 작업을 수행할수록 고가의 GPU 활용 효율은 오히려 떨어졌다. 또 AI 에이전트의 전력 소비도 크게 늘었다.

현재 상용 AI 서비스에 쓰이는 700억 개의 매개변수(파라미터·AI가 학습한 지식과 능력을 저장하는 값)를 가진 대형 언어 모델을 사용하는 AI 에이전트는 질문 한 건을 처리하는 데 평균 348.41Wh(와트시)의 전력을 소비했다. 이는 기존 생성형 AI의 단순 질의응답 방식보다 136.5배 높은 수준이다.

하루 137억건의 AI 에이전트 요청이 발생하는 미래 환경을 가정해 분석한 결과, 데이터센터 전력 수요는 약 198.9GW(기가와트)에 이를 것으로 추정됐다.

이에 대해 연구팀은 현재 세계 각국이 추진 중인 수 GW 규모의 AI 데이터센터를 뛰어넘는 수준이며, 미국 전체 평균 전력 소비량의 약 절반에 해당하는 규모라고 설명했다.

연구팀은 이번 연구가 AI 시대의 경쟁력이 ‘더 똑똑한 AI’에서 ‘더 효율적인 AI’로 이동하고 있음을 보여준다고 설명했다.

그러면서 앞으로는 AI 모델만 발전시키는 것이 아니라 AI 반도체, 데이터센터, 전력 인프라를 함께 최적화하는 ‘공동 설계’가 필수 전략이 될 것이라고 덧붙였다.

유민수 석좌교수는 “이번 연구는 단순히 AI가 더 똑똑해지는 것을 넘어, 그 지능을 구현하고 유지하기 위해 얼마나 많은 전력과 비용이 필요한지를 정량적으로 제시한 사례”라고 밝혔다.

이어 “AI 에이전트 시대에는 AI 모델뿐 아니라 데이터센터와 전력 인프라를 함께 최적화하는 공동 설계가 더욱 중요해질 것”이라고 덧붙였다.

이승구 온라인뉴스 기자 [e-mail]