계속 늘어나는 AI 투자금··· 비용 부담은 누구의 몫일까?

주요 클라우드 기업을 포함한 IT 기업들은 지난 2년 반 동안 AI 역량 강화를 위해 1조 달러 이상을 투자했다. 이런 투자 규모는 단기 수익을 훨씬 초과하는 수준이다.

벤처캐피털 세쿼이아 캐피탈(Sequoia Capital)은 지난해 AI 투자 규모가 AI 관련 수익보다 6,000억 달러 더 많을 것이라고 전망한 바 있다. 서비스나우, 세일즈포스 등 AI 기반 기업들은 눈에 띄는 매출 성장을 보고하고 있지만, 가트너(Gartner)는 2025년 AI 지출이 6,440억 달러로 전년 대비 76% 이상 증가할 것이라고 예상했다. 특히 지난해 AI 투자액은 2023년 대비 337% 급증했다.

이처럼 막대한 투자가 이어지는 가운데, 업계에서는 “결국 누가 이 비용을 부담하게 될 것인가”라는 질문이 제기되고 있다. 마이크로소프트(MS), 오픈AI, 구글, IBM 등 AI 벤더들이 자발적으로 비용을 낼 가능성이 낮다는 점에서, CIO들이 그 부담을 떠맡게 될 것이라는 우려가 커지고 있다.

AI 벤더들이 언제, 어떤 방식으로 투자금을 회수할 것인지에 대해선 전문가들의 의견이 엇갈리지만, CIO에게 ‘비용 정산의 시기’가 다가오고 있다는 데에는 대체로 공감하고 있다. 일부는 인기 있는 AI 도구의 가격이 결국 인상될 것이라고 보고 있으며, 다른 이들은 CIO가 머지않아 다양한 신제품에 대한 지출을 감당하게 될 것으로 전망했다. 반면 일각에서는 AI 버블 붕괴 가능성을 언급하며, 이 경우 비용 부담이 투자자의 몫이 될 것이라고 언급했다.

IT 업계의 오랜 벤처 투자자인 닉 다비도프는 AI 기술이 성숙해질수록 장기적으로 비용은 하락할 것이라고 내다봤다. AI 투자는 매년 수천억 달러에 이르지만, 가트너가 전망한 2025년 전 세계 IT 지출 5조 6,000억 달러에 비하면 극히 일부에 불과하다는 설명이다.

그럼에도 불구하고 다비도프는 기업의 IT 예산 비중이 기존 SaaS 제품 등 다른 영역에서 AI 중심으로 재편될 것이라고 언급했다. 아울러 많은 기업이 AI 기반의 효율성 향상을 통해 인력을 감축할 가능성이 있으며, 절감된 예산 일부가 새로운 AI 도구 도입에 재투자될 것이라고 분석했다.

또한 그는 기업이 AI로 새로운 수익원을 창출하면서 IT 예산도 함께 증가할 것이라고 예측했다. 다비도프는 “앞으로 CIO는 3~4년간 매우 바쁜 시기를 보내게 될 가능성이 높다. 이제 비즈니스 담당자들은 AI가 큰 비용을 절감하거나 최고의 인재들을 실제 업무에 집중할 수 있게 한다는 사실을 점점 깨닫고 있다”라고 설명했다.

다비도프는 일부 인력 감축이 발생할 수 있다면서도, AI로 인한 생산성 향상이 곧바로 동일한 규모의 감원으로 이어지지는 않을 것이라고 내다봤다. 그는 “특정 업무 프로세스에서 효율을 30~40% 높일 수 있다는 사실을 깨달았다고 해서 그만큼의 인력을 바로 감축해야 한다는 뜻은 아니다. 현실은 경쟁사들도 AI를 도입하고 있기 때문에 ‘지금 당장 직원을 해고하진 않겠지만, 경쟁력을 유지하려면 AI 도구를 도입해 효율을 높여야 한다’는 판단이 이뤄지고 있다”라고 말했다.

제2의 닷컴 붐?

일부 전문가는 현재의 AI 투자가 1990년대 말 닷컴 붐과 유사한 흐름을 보인다고 평가했다.

세인트에드워즈대학교(St. Edwards University)의 경영학 교수 아리에 브리시는 “지금은 모든 벤처캐피털이 이 신기술 분야의 차세대 유니콘 기업을 차지하기 위해 앞다퉈 달려드는 시점”이라며 “물론 95%는 실패하겠지만, 5%는 구글, 아마존, 메타처럼 성장할 것이다. 벤처 세계의 현실이 그렇다”라고 말했다.

브리시는 최소한 일부 투자 비용을 고객이 부담하게 될 것이라고 진단했다. 그는 “일부 경우에는 이미 구독 중인 제품에 새로운 기능이 추가되면서 사실상 추가 비용을 지불하고 있다. 완전히 새롭게 등장하는 제품의 경우에는 조직이나 CIO가 각 제품별로 비용 대비 효과를 따져보고 도입 여부를 결정해야 할 것”이라고 조언했다.

AI 감시 기술 기업 클라우드어스트럭처(Cloudastructure)의 설립자 릭 벤틀리는 닷컴 붐과 그 이후의 붕괴를 직접 겪은 인물로, 현재 AI 투자 흐름에서도 유사한 사이클이 반복되고 있다고 봤다. 그는 “당시처럼 승자와 패자가 명확히 갈릴 것”이라며 “매년 수십억 달러씩 손실을 내는 기업은 언젠가 한계에 부딪힐 수밖에 없다. 지금도 구글과 메타는 잘 버티고 있지만, 수많은 기업이 사라졌다”라고 말했다.

다만 벤틀리는 AI 버블이 붕괴하더라도 고객이 모든 투자 비용을 떠안게 되지는 않을 것이라고 전망했다. 그는 “지금은 마치 카지노가 열리고 술이 넘치며 모두가 무분별하게 도박을 벌이는 상황에서 직원들이 팁을 두둑이 받는 것과 같다. 고객은 팁을 받는 직원에 해당한다. 도박꾼이 이기든 지든 우리는 여전히 무료 챗GPT를 사용할 수 있다”라고 비유했다.

새로운 가격 모델

하지만 AI 벤더의 고객 기업이 전체 비용 중 상당 부분을 부담하게 될 것이라는 견해도 있다. 핀테크 기업 FIS의 CTO 피르다우스 바테나는 IT 리더들이 구독료 인상, 사용량 기반 요금제, 고급 기능에 대한 프리미엄 요금 등 새로운 가격 구조에 직면할 가능성이 높다고 진단했다.

그는 “AI 인프라 구축에 드는 비용은 결국 기업 사용자에게 전가될 것이며, CIO 입장에서는 그때가 언제인지가 문제일 뿐이다. 현재는 주요 클라우드 업체와 AI 벤더들이 초기 확산을 위해 많은 비용을 부담하고 있지만, 머지않아 요금 체계에 변화가 생길 수 있다”라고 말했다.

바테나는 CIO가 겉으로 드러나는 가격만 볼 것이 아니라 숨겨진 비용에도 주의해야 한다고 조언했다. 특히 기존 시스템과 AI를 통합하는 과정에서 예기치 않은 비용이 빠르게 증가할 수 있다고 강조했다. 그는 또 AI를 도입한 조직이 직원 역량 강화에 투자해야 하며, 점점 복잡해지는 벤더 생태계에 유연하게 대응할 준비도 필요하다고 설명했다.

바테나는 “이제는 조직이 벤더 계약을 면밀히 검토하고, 계약 조건의 유연성을 확보하며, AI 도입의 재정적 영향이 본격화될 때 발생할 수 있는 비용 증가에 대비해야 할 시점”이라고 말했다.

한편 차세대 스토리지 및 메모리 기술 기업 스케일플럭스(ScaleFlux)의 제품 부문 부사장 JB 베이커는 AI 투자 논의를 다른 관점에서 접근했다. 그는 기존 하드웨어와 인프라가 AI 개발 비용을 높이는 주요 원인 중 하나라고 지적하며, GPU 기술은 빠르게 발전하고 있는 반면 나머지 시스템 구성 요소들은 그 속도를 따라가지 못해 전체 비용을 끌어올리고 있다고 언급했다. 이런 비대칭적 발전이 기업 전반의 AI 도입 비용을 가중시키고 있다는 분석이다.

베이커는 앞으로 AI 벤더가 수익을 창출할 새로운 방법을 찾아낼 것이라고 전망했다. 그는 “기존에 사용하던 서비스의 요금이 인상되는 것보다 이전까지 필요성을 느끼지 못했던 새로운 서비스가 등장하면서 비용이 늘어날 가능성이 크다”라고 분석했다.

그는 CIO가 AI 제품과 서비스 구매 시 신중을 기하고 명확한 비즈니스 목적을 갖고 도입 결정을 내려야 한다고 조언했다. 베이커는 “단순히 ‘뒤처지지 않기 위해’ AI를 도입한다면 많은 비용을 들이고도 정작 투자 대비 수익(ROI)을 얻지 못할 수 있다. AI가 비즈니스에 어떤 도움을 줄지, 수익성과 성과에 어떻게 기여할지 명확히 정의해야 한다”라고 말했다.
dl-ciokorea@foundryco.com