구글 'TPU'의 역습…GPU 패권 흔든다

엔비디아와 구글의 인공지능(AI) 칩 경쟁에 불이 붙었다. 구글은 25일(현지시간) 자사 블로그에 “경쟁사들이 외부 공급 업체에 의존할 때 구글 딥마인드는 제미나이 개선을 위해 우리의 TPU 엔지니어와 직접 협업한다”고 올렸다. 글로벌 AI산업에 만연한 과도한 엔비디아 그래픽처리장치(GPU) 의존 현상을 직격한 것이다. 엔비디아는 같은 날 X(옛 트위터)를 통해 “구글의 성공을 기쁘게 생각한다”면서도 “엔비디아만이 한 세대 앞선 유일한 플랫폼”이라고 반박했다.

구글이 자체 설계한 AI 칩인 TPU의 ‘파괴력’에 관심이 집중되고 있다. 제미나이 3가 오픈AI의 최신형 챗GPT를 성능 면에서 앞선다는 평가가 나오면서다. 엔비디아(AI 칩 공급)-오라클(AI 클라우드 등 인프라 제공)-오픈AI(칩과 인프라 구매)로 이어지는 GPU 진영의 아성이 흔들릴 것이라는 분석이 나온다. GPU가 값비싼 ‘팔방미인’이라면 TPU는 특정 기능에 최적화된 단거리 ‘스프린터’다.

TPU의 부상은 데이터와 컴퓨팅 파워만으로는 AI 모델 성능 향상이 정체된다는 ‘스케일링 법칙’과 밀접히 연결돼 있다. 이를 극복하기 위해 구글은 일종의 ‘오픈북’과 비슷한 추론 AI 모델을 강화하는 데 총력을 기울여 왔다. 질문을 받으면 사전 학습한 데이터 외에 AI가 스스로 웹 검색, 코딩 등을 통해 최적의 답변을 내놓는 방식이다. 이를 가능케 한 AI 칩이 TPU다.

구글 출신인 이재욱 서울대 컴퓨터공학부 교수는 “구글은 검색엔진, 유튜브 등 자체 서비스에 TPU를 10년 이상 적용하면서 자신감을 얻었다”며 “구글 클라우드 등 외부 고객 사용 AI 서비스에도 서서히 TPU 적용을 확대하려 할 것”이라고 분석했다. AI 엔지니어용 개발 플랫폼인 쿠다(CUDA)로 GPU 공급처를 무한 증식한 엔비디아에 맞서 자체 데이터와 AI 칩으로 무장한 반(反)엔비디아 진영이 역습 기회를 잡았다는 평가가 나온다.

강해령 기자/실리콘밸리=김인엽 기자

▶TPU

구글의 인공지능(AI) 특화 반도체다. 값비싼 범용 AI 칩인 그래픽처리장치(GPU)와 달리 추론 등 AI 서비스 전용으로 개발해 전력 효율이 높은 것이 특징이다.