GPU 공급난 속 해답 될까···구글, 신규 TPU ‘아이언우드’ 출시

AI 워크로드를 실행할 GPU 부족에 시달리거나, 전력 비용 부담으로 어려움을 겪는 기업에게 구글의 차세대 TPU가 현실적인 대안으로 떠올랐다. 구글은 더 빠르고 에너지 효율이 높은 차세대 TPU(텐서 처리 장치) ‘아이언우드(Ironwood)’를 클라우드 컴퓨팅 서비스에 곧 추가할 계획이다.

분석가들은 아이언우드가 AMD와 엔비디아의 GPU와 비슷한 성능을 더 낮은 비용으로 제공할 것으로 예상하고 있다. 이에 따라 AI 모델 학습이나 추론 프로젝트를 위한 GPU 확보에 어려움을 겪고 있는 기업과 벤더의 부담이 한층 완화될 전망이다.

현재 고성능 GPU의 전 세계적 공급 부족으로 인해 비용이 급등하고 AI 프로젝트의 배포 일정이 지연되고 있다. 또한 GPU를 확보한 기업조차도 전력 공급 문제로 이를 충분히 가동하지 못하는 경우가 적지 않다.

아이언우드가 새로운 대안으로 주목받고 있지만, 구글 역시 안정적인 칩 공급을 장담하기 어렵다는 분석도 나온다. 시장 조사 업체 세미애널리시스(SemiAnalysis)의 연구원 마이런 시에는 “구글도 반도체 제조 역량의 제약을 받을 수 있다. 제조사인 TSMC가 첨단 칩 패키징 공정에서 생산 병목 현상을 겪고 있다”라고 경고했다.

텐서플로우에 최적화된 설계

아이언우드는 구글 TPU 플랫폼의 7세대 제품으로, 구글의 오픈소스 머신러닝 프레임워크인 텐서플로우와의 연동을 염두에 두고 설계됐다.

시장조사업체 옴디아(Omdia)의 수석 애널리스트 알렉산더 해로웰은 “이 칩은 텐서플로우 기반 AI 워크로드에서 다른 GPU보다 우위를 가진다”라고 설명했다. 그는 “연구나 기업 환경에서 사용되는 많은 AI 모델이 텐서플로우를 기반으로 구축돼 있으며, TPU는 이런 연산에 맞게 고도로 최적화돼 있다. 반면 여러 프레임워크를 지원하는 범용 GPU는 텐서플로우 전용 작업에서는 상대적으로 효율이 떨어질 수 있다”라고 덧붙였다.

AI 산업 전반의 기회

포레스터(Forrester)의 부사장이자 수석 애널리스트 찰리 다이는 “오픈AI와 앤트로픽처럼 비교적 개발 역사가 짧고 코드 구조가 유연한 대규모 언어 모델(LLM) 개발사는 아이언우드의 도입으로 이득을 얻을 수 있을 것”이라고 분석했다.

실제로 앤트로픽은 이미 모델 학습과 추론을 위해 100만 개 규모의 TPU를 도입하기로 합의했다. 또한 라이트릭스(Lightricks)와 에센셜AI(Essential AI) 같은 중소 규모 AI 개발사들도 구글의 TPU를 활용해 자사 모델을 학습시키고 있다.

구글은 자사 내부 서비스 운영에 TPU를 적극 활용하고 있으며, 외부 고객을 중심으로 한 TPU 수요도 꾸준히 증가하고 있다. 헤로웰에 따르면 구글은 올해 브로드컴(Broadcom)으로부터 약 98억 달러 규모의 TPU를 공급받을 것으로 전망된다. 이는 2023년의 20억 4,000만 달러, 2024년의 62억 달러에서 크게 증가한 수치다. 구글과 브로드컴은 TPU 제조를 위해 수년 간 설계 협력 파트너십을 이어오고 있다.

해로웰은 “이로써 구글은 클라우드 및 엔터프라이즈 데이터센터 시장에서 엔비디아(Nvidia)에 이어 두 번째로 큰 AI 칩 규모를 보유하게 됐다. 구글의 시장 점유율은 약 5% 수준이며, 엔비디아는 약 78%를 차지하고 있다”라고 설명했다.

기존 플랫폼의 제약

일부 전문가들은 기업용 제품 시장에서 TPU의 성장 가능성을 긍정적으로 평가했지만, IDC의 리서치 디렉터 브랜든 호프는 대다수 기업이 기존 플랫폼 기반 때문에 아이언우드나 TPU 전반의 도입을 주저할 수 있다고 전망했다.

호프는 엔비디아 소프트웨어 플랫폼인 쿠다를 언급하며, “자체 추론 모델을 개발하는 기업 고객은 엔비디아의 소프트웨어 플랫폼에 사실상 묶여있다”라고 진단했다. 실제로 쿠다는 2007년에 공개된 반면, 텐서플로우의 첫 버전은 2015년에 등장했다. 따라서 오랜 기간 쿠다를 기반으로 구축된 코드와 인프라를 보유한 기업에게는 새로운 플랫폼으로의 전환이 쉽지 않을 것이라는 분석이다.
dl-ciokorea@foundryco.com