AI 도입 넘어 비용 관리로…오픈AI, 사용량 분석·예산 설정 기능 공개

오픈AI가 기업이 AI 도입 현황을 모니터링하고, 팀별 사용량을 추적하며, AI 활용 예산을 설정할 수 있도록 챗GPT 엔터프라이즈(ChatGPT Enterprise)에 지출 통제 기능과 향상된 사용량 분석 기능을 추가했다. 다만 업계 분석가들은 이러한 기능만으로는 AI 관련 비용이 실제 비즈니스 성과로 어떻게 이어지는지까지는 파악할 수 없다고 지적했다.

새 기능은 관리자가 조직 전반의 챗GPT 활용 현황을 확인할 수 있는 중앙 집중형 대시보드를 제공한다. 이를 통해 AI 도입 패턴을 파악하고, 예산 설정 및 지출 추적 기능을 활용해 AI 비용을 관리할 수 있다.

오픈AI는 “글로벌 관리자 콘솔(Global Admin Console)은 챗GPT와 코덱스의 크레딧 사용량을 하나의 화면에서 보여준다”라며 “관리자는 사용자, 제품, 모델별 크레딧 소비 현황을 보다 세부적으로 확인할 수 있어 비용 발생 원인과 실제 크레딧 사용량 간의 관계를 파악할 수 있다”라고 설명했다.

AI 비용 거버넌스로 무게중심 이동

포레스터의 수석 애널리스트 비스와지트 마하파트라는 예산 관리와 사용량 분석 기능의 도입이 기업 우선순위의 보다 근본적인 변화를 반영한다고 분석했다.

마하파트라는 “기업들은 AI 도입 자체에 대한 기대감에서 비용과 가치에 대한 거버넌스로 분명히 이동하고 있다”라며 “이는 AI 투자를 줄이는 것이 아니라 자연스러운 성숙 단계로의 전환”이라고 설명했다.

이어 “AI는 더 이상 도입의 문제가 아니라 측정과 신뢰성의 문제”라며 “생산성 향상 효과는 존재하지만 단편적으로 나타나고 있어 이를 재무적 성과와 연결하기 어렵다”라고 평가했다.

그는 AI 활용이 여러 사업 부문으로 확산되면서 지출이 다양한 팀과 도구, 실험 프로젝트에 분산되고 있어 사용 현황에 대한 가시성과 거버넌스의 중요성이 더욱 커지고 있다고 설명했다.

마하파트라는 “예산 관리와 사용량 가시성, 지출 통제는 이제 단순한 운영상의 관심사가 아니라 핵심 기반 요소가 되고 있다”라며 “기술 활용과 비즈니스 성과를 연계할 수 있도록 해주기 때문”이라고 밝혔다.

또한 오픈AI가 새롭게 선보인 대시보드와 지출 통제 기능은 이러한 기업의 요구에 대응하기 위한 것이라고 평가했다.

에이전트 확산이 비용 관리 부담 키운다

가트너의 수석 디렉터 애널리스트 아누슈리 버마는 기업들이 AI 비용 거버넌스에 더욱 주목하고 있다고 진단했다. 복잡하게 분산된 가격 체계와 공급업체별 소비 단위, 일관되지 않은 과금 구조로 인해 기업이 AI 비용을 예측하기 어려워지고 있기 때문이다.

버마는 기업들의 AI 활용 규모가 확대되면서 이러한 문제가 향후 몇 년간 더욱 심화될 것으로 전망했다.

버마는 “2028년까지 전 세계 포춘 500대 기업은 평균적으로 15만 개 이상의 AI 에이전트를 운영하게 될 것”이라며 “이는 2025년의 15개 미만 수준에서 급증한 것으로, 대규모 에이전트 확산과 함께 IT 복잡성과 관리 부담도 크게 증가할 것”이라고 내다봤다.

이 같은 상황에서 오픈AI의 새로운 관리 기능은 AI 배포 규모가 커지고 활용 범위가 넓어질수록 조직의 사용 현황과 지출을 모니터링할 수 있는 수단을 제공한다고 버마는 평가했다.

사용량을 넘어 AI 가치 측정으로

오픈AI의 분석 기능은 AI 도입 현황과 사용 가시성에 초점을 맞추고 있지만, 전문가들은 기업이 궁극적으로 AI 사용량과 실제 비즈니스 성과를 연결해야 한다고 지적했다.

포레스터의 비스와지트 마하파트라는 “토큰 사용량만으로는 충분하지 않다”라며 “토큰 소비는 AI의 영향력이 아니라 활동량만 측정하기 때문”이라고 설명했다.

대신 기업은 AI 프로젝트를 평가할 때 매출 성장, 비용 절감, 리스크 완화와 같은 비즈니스 지표와 함께 생산성 향상, 품질 개선 등의 운영 지표를 함께 활용해야 한다고 조언했다.

가트너의 아누슈리 버마는 전통적인 클라우드 핀옵스 관행도 AI의 사용량 기반 경제 모델에 맞춰 진화하고 있다고 설명했다.

버마는 “기존 핀옵스는 예측 가능한 중앙집중형 클라우드 환경을 전제로 설계됐다”라며 “토큰 사용량, LLM 요청 수, GPU 사용 시간과 같은 예측하기 어려운 AI 소비 지표를 관리하기에는 한계가 있다”라고 지적했다.

또한 버마는 다중 에이전트 시스템이 확산될수록 실시간 추적의 중요성이 더욱 커질 것이라고 전망했다. 상호 연결된 환경에서 설정 오류가 발생할 경우 AI 비용이 단기간에 급증할 수 있기 때문이다.
dl-ciokorea@foundryco.com