수백∼수천개 처리장치 구성… ‘AI 딥러닝’ 효율적 [심층기획-엔비디아발 AI 혁명]

GPU가 뭐길래

과거 3D 게임 컴퓨터 부품 불과
병렬 연산으로 계산 빨라 각광

“엔비디아가 발명한 GPU는 모두 e스포츠 덕분이고 한국 덕분입니다.”

젠슨 황 엔비디아 최고경영자(CEO)는 지난달 30일 서울에서 열린 ‘지포스 기념행사’에 참석해 이런 소회를 밝혔다. 1999년 엔비디아가 처음으로 ‘GPU’라 명명하며 내놓은 그래픽 처리 장치 지포스가 한국의 게임 산업과 PC방 열풍에 힘입어 성장할 수 있었다는 고마움의 표현이었다. 3차원(3D) 게임 구동을 위한 컴퓨터 부품에 불과했던 GPU는 어떻게 세계 인공지능(AI) 패권 전쟁의 향방을 가르는 전략 자산이 됐을까.

젠슨 황 엔비디아 최고경영자가 지난 10월 30일 서울 코엑스에서 열린 엔비디아의 그래픽카드(GPU) '지포스' 출시 25주년 행사에서 단상에 올라 발언하고 있다. 공동취재

9일 산업계에 따르면 GPU는 개인용 컴퓨터에서 그래픽을 전문적으로 처리하기 위해 개발됐다. 수백∼수천개의 작은 연산 코어(처리장치)로 이루어진 GPU가 단순 계산을 한꺼번에 수행하도록 한 것이다. 예컨대 가로·세로 픽셀이 1920·1080인 해상도에서 초당 60프레임으로 이미지를 표현하려면 1초에 1억2000만회가 넘는 연산이 필요하다. 직렬 방식인 중앙처리장치(CPU)는 이 연산을 하나씩 순차적으로 계산하는 반면 GPU는 여러 코어로 작업을 나눠 동시에 계산하기 때문에 계산 속도가 훨씬 빠르다.

이런 병렬 연산 구조는 AI 확산과 함께 새롭게 각광을 받았다. 인공신경망이 대량의 데이터에서 학습하는 ‘딥러닝’은 동일한 연산을 무수히 반복해야 하는데, GPU가 이런 작업을 CPU보다 훨씬 효율적으로 수행할 수 있기 때문이다. GPU가 단순한 그래픽 장치를 넘어 AI 시대의 핵심 연산 인프라로 자리 잡게 된 배경이다.

엔비디아는 현재 전 세계 AI 데이터센터 AI 칩(GPU) 시장의 80%~90%를 장악하고 있다. AI 대형 모델을 학습시키려면 대규모 GPU를 하나의 거대한 컴퓨터처럼 묶어 운영해야 하는데, 이 과정에서 GPU 간 통신이나 전력·냉각 등에서 성능 저하 문제가 발생하기 쉽다. 엔비디아는 이 모든 요소를 최적화하고 ‘쿠다(CUDA)’라는 자체 소프트웨어 생태계까지 하나의 시스템으로 제공한다. 경쟁사들이 이런 시스템을 쉽게 구현하지 못하면서 엔비디아에 대한 의존 구조가 고착화한 것이다.

GPU 확보가 국가 산업 경쟁력과 직결되자 한국을 비롯한 각국 정부는 직접 엔비디아와 협상에 나서고 있다.