‘남는 AI 자원 거래한다’··· GPU 연산자원 가격비교 도구 출시

AI 인프라 오픈마켓을 표방하는 기업 컴퓨트익스체인지(Compute Exchange)가 GPU 연산 자원의 과거, 실시간, 예측 가격 데이터를 제공하는 도구인 ‘PIC(Pricing Intelligence Calculator)’를 출시했다고 밝혔다.

PIC의 출시 소식은 컴퓨트익스체인지가 ‘세계 최초의 경매 기반 AI 연산 자원 거래소’를 설립하겠다고 발표한 지 약 7개월 만에 전해졌다. 이 거래소는 남는 연산 자원을 보유한 기업이 이를 필요로 하는 기업과 직접 연결될 수 있는 구조라고 소개된 바 있다.

공개된 정보에 따르면, 신규 도구는 컴퓨팅 시장 정보 업체인 실리콘데이터의 정보를 활용한다. 컴퓨트익스체인지는 “하이퍼스케일러, 네오클라우드, 독립 벤더에 걸친 실시간 가격 벤치마크, 단일 GPU 요청부터 2,048개 이상 B200 클러스터까지 구성 가능한 맞춤 옵션, 워크로드에 맞춘 서비스 수준 계약(SLA) 및 가용성 매칭 기능을 제공한다”라고 설명했다.

컴퓨트익스체인지는 또한 해당 도구가 “GPU 하드웨어를 비교하고, 공급업체를 탐색하며, 실거래 가격 기반으로 자원을 예약할 수 있는 오픈마켓 방식의 접근법”이라고 언급했다.

컴퓨트익스체인지는 앞으로 몇 개월 내에 PIC 기능을 확대해 예산 수립을 위한 예측 기반 가격 동향, 계획 및 조달을 지원하는 인터랙티브 시각화 도구, R&D·데브옵스(DevOps)·조달 워크플로우에 통합 가능한 개발자 접근 기능 등을 추가할 계획이라고 밝혔다.

컴퓨트익스체인지 CEO 겸 공동 설립자인 시메온 보체프는 “컴퓨트익스체인지는 전 세계에서 유일한 중립 컴퓨팅 마켓으로, 수십 개 업체를 통해 8만 개 이상의 GPU를 공급하고 있다. 실리콘데이터의 가격 지수를 활용해 거래소 내 시장 가격을 산정하고 PIC의 기반으로 삼고 있다”라고 설명했다.

보체프는 이어 “컴퓨트익스체인지와 실리콘데이터는 컴퓨팅 시장에 대한 보다 명확한 벤치마크를 개발 중이며, 이에 대한 세부 내용을 앞으로 몇 주 내에 공유할 예정”이라고 덧붙였다.

“비용 정직하게 유지하는 역할”

인포테크리서치그룹(Info-Tech Research Group)의 자문위원 스콧 빅클리는 해당 솔루션에 대해 “기업이 단기적으로 GPU 용량을 확보하고, 특히 네오클라우드 벤더의 유휴 자원을 활용할 경우 좋은 조건에 계약을 체결하는 수단이 될 것”이라고 평가했다. 네오클라우드란 AI 학습이 필요한 기업에 GPU를 전문으로 공급하는 클라우드 서비스 업체를 의미한다.

빅클리는 “GPU 자원을 구매할 때 비용을 벤치마킹하는 데도 유용할 수 있지만, 가치 제안 측면에서도 간단한 구조다. 또한 그는 대부분의 기업이 GPU 용량을 직접 구매하지 않는다면서, “이 도구는 자체 모델을 개발하거나 기존 모델 위에 자사 AI 애플리케이션을 구축하려는 기업에 적합하다”라고 분석했다.

빅클리는 “이 도구가 GPU 자원 접근 비용의 상하한선을 설정하는 데 있어 공급업체를 일정 부분 견제하는 역할을 할 수 있을 것”이라고 덧붙였다.

컴퓨트익스체인지가 지난 2월 처음 설립됐을 당시, 무어인사이트&스트래티지(Moor Insights & Strategy)의 데이터센터 컴퓨트 및 스토리지 부문 부사장 겸 수석 애널리스트 맷 킴벌은 GPU 연산 시장 상황이 “꽤 심각하다”라고 표현한 바 있다. 그는 “대부분의 사람들이 단일 공급업체로 보고 있는 엔비디아가 생산 이전부터 GPU를 팔고 있고, 시장은 이에 대해 끝없는 수요를 보이고 있기 때문”이라고 지적했다.

킴벌은 컴퓨트익스체인지의 발표 직후 “PIC라는 개념은 매우 매력적”이라며, “고객에게 실질적인 도구가 될 수 있고, 컴퓨트익스체인지가 일종의 중개자 역할을 하게 된다는 점에서 의미가 크다. AI 인프라를 활용하려는 누구에게나 실질적인 가치를 제공할 수 있는 서비스”라고 평가했다.

킴벌은 “컴퓨트익스체인지가 ‘MLPerf’ 같은 벤치마크 데이터를 함께 제공해 ‘비용 대비 성능’을 보다 정밀하게 측정해주는 기능을 갖춘다면 이상적일 것”이라며 “예를 들어 AWS와 애저가 모두 B300을 학습용으로 사용하더라도, 같은 성능이 나오는 것도 아니고 가격도 동일하지 않다”라고 덧붙였다.

또한 그는 “실리콘데이터는 컴퓨트익스체인지가 앞으로 활용할 수 있는 더 많은 데이터를 보유하고 있다. EU에서 보다 엄격한 규제를 받는 고객에게는 학습 작업이 어느 조건에서 환경적 영향을 최소화할 수 있는지를 이해하도록 지원하는 기능이 특히 필요할 수 있다”라고 설명했다.

급증하는 GPU 수요와 제한적인 공급

GPU 시장에서 정확한 벤치마크 도구의 필요성은 지난 6월 발표된 포레스터리서치(Forrester Research) 보고서에서도 명확히 드러났다. 연구진은 기술 리더들이 직면한 핵심 투자 결정 중 하나가 AI 인프라 구축에 사용할 칩을 선택하는 일이라고 지적했다.

보고서는 “차세대 생성형 AI 작업을 수행하는 데 필요한 인프라는 막대한 비용을 요구한다. 그 중심에는 AI 칩, 특히 데이터센터용 GPU가 있으며, 일부는 대당 가격이 4만 달러를 넘어섰다”라고 지적했다. 이어 “AI 칩 선택은 에너지 비용, 데이터센터 입지, 인력 역량에도 영향을 미쳐 결국 ROI(투자 수익률)를 낮출 수 있다”라고 분석했다.
dl-ciokorea@foundryco.com