‘AI 물결에 휩쓸리다’ 최신 클라우드 동향 5가지

기업들이 멀티클라우드 운영에 따른 비용과 복잡성에 환멸을 느끼고 리소스를 온프레미스 데이터센터로 다시 옮기는 추세, 즉 클라우드 송환에 대한 담론을 기억하는가? 하지만 AI 물결로 인해 클라우드 분야에 새로운 국면이 펼쳐지고 있다.

IDC에 따르면 퍼블릭 클라우드 서비스에 대한 전 세계 지출은 2024년에 8,050억 달러에 달하고 2028년에는 그 규모가 두 배로 늘어날 전망이다. 5년간 연평균 19.4%의 성장률을 기록한다는 관측이다.

IDC의 데이터 및 분석 부문 리서치 매니저인 안드레아 미논은 “인공지능의 급속한 발전이 클라우드 지출의 급증을 크게 견인하고 있다. AI 플랫폼을 구축, 테스트, 배포하는 기업이 증가함에 따라 AI 혁신과 클라우드 인프라 간의 상호 의존성이 높아짐에 따라 클라우드 서비스가 AI 개발 및 배포의 중추로 자리매김하고 있다”라고 설명했다.

일부 수치는 약간 다를 수 있지만, 가트너의 예측도 유사하다. 가트너에 따르면 퍼블릭 클라우드 서비스에 대한 전 세계 최종 사용자의 지출은 2023년 5,610억 달러에서 2024년 6,754억 달러로 20.4% 증가할 전망이다.

가트너의 시드 내그 애널리스트는 “퍼블릭 클라우드 지출이 지속적으로 성장할 것으로 예상되는 이유는 범용 파운데이션 모델이 지속적으로 생성되고 대규모로 AI 지원 애플리케이션을 제공하기 시작했기 때문”이라며, “이러한 지속적인 성장으로 인해 퍼블릭 클라우드 최종 사용자 지출이 2020년대에 1조 달러를 돌파할 것으로 예상한다”라고 말했다.

클라우드에서 펼쳐지는 주요 트렌드로는 어떤 것들이 있는지, 이로 인해 어떤 혜택을 기업이 누릴 수 있는지 살펴본다.

AI 특화 대안 벤더의 등장

퍼블릭 클라우드 시장 점유율은 비교적 큰 변화가 없다. AWS가 부동의 1위(32%), 마이크로소프트 애저가 굳건한 2위(23%)를 차지하고 있으며, 구글 클라우드 플랫폼이 3위(12%)를 기록하고 있다. 빅 3를 합치면 전체 시장의 67%를 차지하며, 알리바바, IBM, 세일포스를 비롯한 소규모 업체들은 각각 2~4%대의 점유율을 보이고 있다.

최근 수치에 따르면 의미 있는 움직임을 보이고 있는 유일한 클라우드 서비스 제공업체는 오라클이다. 현재 IBM을 제치고 세일즈포스와 유사한 자리에 올랐다. 하지만 오라클의 시장 점유율은 아직 3%에 불과하다.

이처럼 변화가 거의 없는 상황에서 생성형 AI의 부상은 몇몇 스타트업에게 기회를 제공했다. 빅 3가 기존 데이터센터에 AI 용량을 추가하기 위해 분주한 가운데, 이들 스타트업은 처음부터 GPU 기반의 고성능 데이터센터를 구축함으로써 AI 학습 및 추론을 위한 GPU 클러스터를 공급하는 비즈니스 기회를 포착했다. 코어위브(CoreWeave), 벌처(Vultr), 네비우스(Nebius), 오리(Ori), 람다 랩스(Lambda Labs) 등이 대표적이다.

이들 스타트업들은 특수 목적에 맞게 구축된 자사의 플랫폼이 기존 플랫폼보다 훨씬 빠르고 저렴하다고 주장한다. 기업의 IT 조직은 기존 하이퍼스케일러와 전략적 관계를 유지하는 가운데, 이러한 플랫폼을 활용해 AI 프로젝트를 확장할 수 있다.

데이터센터 투자 증가를 주도하는 AI

하이퍼스케일러가 운영하는 대형 데이터센터의 수는 2024년 초에 1,000개를 돌파하여 불과 4년 전의 두 배에 이르렀다. 시너지 리서치 그룹은 향후 4년 내에 전체 하이퍼스케일 데이터센터 용량이 다시 두 배로 늘어날 것으로 전망한다.

시너지 리서치는 “새롭게 개소하는 데이터센터의 규모가 더욱 커지면서 용량 증가가 더욱 가속화될 것이다. 이러한 규모 증가의 주요 원인으로 생성형 AI 기술이 꼽힌다”라고 전했다.

당연하게도 데이터센터 공간를 주로 보유한 기업들은 아마존, 마이크로소프트, 구글이다. 전체 하이퍼스케일 데이터센터 용량의 60%를 차지한다. 그리고 이 빅 3의 데이터센터 확장은 빠르고 맹렬하게 이어지고 있다.

마이크로소프트는 최근 일본 데이터센터 인프라에 29억 달러, 영국에 31억 6,000만 달러, 인디애나에 10억 달러, 위스콘신에 33억 달러를 투자한다고 발표했다. 이 회사는 향후 몇 년 동안 데이터센터 용량을 두 배로 늘릴 계획인 것으로 알려졌다.

AWS는 2024년 상반기에만 버지니아의 여러 사이트에 350억 달러, 인디애나에 110억 달러, 미시시피에 100억 달러 등, 총 500억 달러 규모의 데이터센터 투자를 발표했다.

구글 또한 캔자스시티, 아이오와주 시더래피즈, 버지니아 북부, 그리고 멕시코, 그리스, 말레이시아, 뉴질랜드, 노르웨이, 오스트리아, 스웨덴에 새로운 데이터센터를 구축할 계획이라고 밝혔다.

최근 빅 3가 AI 데이터센터 수요에 대응하기 위해 원자력 발전에 관심을 보인다는 발표도 있었다.

AI 프로젝트가 계획 단계에서 구현 단계로 넘어가는 가운데, 이러한 하이퍼스케일러들이 대규모 언어 모델(LLM) 워크로드와 관련된 방대한 데이터 세트를 처리할 수 있는 역량을 갖추게 된다는 점은 기업 IT에게 의미를 지닌다. 또한 새로운 퍼블릭 클라우드 데이터센터는 더 많은 가용성 영역을 의미한다. 사용자가 클라우드 기반 애플리케이션 및 데이터의 소스에 물리적으로 가까이 있지 않아 발생하는 지연 시간 및 성능 문제가 줄어든다.

산업 클라우드(수직 클라우드)의 지속적 증가

산업 클라우드는 특정 업종의 고유한 요구 사항을 충족하도록 맞춤화된 특수 클라우드 환경으로, 사전 구성된 솔루션을 제공한다.

가트너의 그레고 페트리 애널리스트는 산업 클라우드 플랫폼에 대해 “클라우드 플랫폼을 비즈니스 플랫폼으로 전환한다. 기술 혁신 도구를 비즈니스 혁신 도구로도 사용할 수 있게 하는 것”이라며 “이러한 플랫폼은 사전 정의된 일회성 수직적 SaaS 솔루션이 아니라 산업별 패키지 비즈니스 기능 카탈로그로 지원되는 모듈식 구성 가능한 플랫폼으로 제공된다”라고 설명했다.

최근 가트너의 설문조사에서 응답자의 약 39%가 산업 클라우드 플랫폼 도입을 시작했다고 답했으며, 14%는 파일럿 단계에 있다고 답했다. 이 개념에 익숙한 응답자의 대다수는 자신들이 산업 클라우드의 채택자 또는 잠재적 구매자라고 밝혔다.

시장 전망은 긍정적이다. 비즈니스 이니셔티브를 가속화하기 위해 산업 클라우드를 사용하는 기업 비율이 2023년의 15% 미만이었지만 2027년에는 70% 이상일 것으로 예상된다.

다양한 플레이어가 이 영역에서 활약하고 있다. 예를 들어 AWS와 애저는 의료 클라우드를, 세일즈포스는 금융 서비스 클라우드를, 오라클은 리테일 클라우드를, 지멘스는 제조 클라우드를, 구글은 교육 클라우드를 제공한다. 대부분의 하이퍼스케일러는 여러 버티컬 클라우드를 제공하는 가운데, 틈새 시장에서도 수많은 업체가 참여하고 있다.

비용 관리 솔루션 시장도 커진다

클라우드 비용을 평가할 때는 실제 비용과 예상 비용이라는 두 가지 측면을 고려해야 한다. 클라우드가 더 저렴할 것이라고 생각하여 앱을 클라우드로 이전한 많은 조직은 청구서가 도착하기 시작하자 충격을 받았다. 클라우드 분석가인 데이비드 린티컴은 클라우드 비용이 조직이 예상했던 것보다 2.5배나 더 많이 발생하고 있다고 추정한다.

클라우드 요금이 증가하는 데에는 가격 인상 외에도 여러 이유가 있다. 린티컴은 클라우드 최적화를 위해 레거시 애플리케이션을 리팩토링하거나 재작성하지 않고 단순히 퍼블릭 클라우드로 ‘리프트 앤 시프트’한 조직이 결국 더 높은 비용을 부담하게 되었다며, 많은 조직이 오버프로비저닝을 하고 클라우드 리소스 사용률을 추적하는 데 소홀했다고 지적한다.

게다가 기업들은 클라우드 사용을 지속적으로 늘리고 있다. 비즈니스 및 IT 컨설팅 회사인 CGI의 부사장 겸 클라우드 현대화 실무 리더인 마양크 바르가바는 “조직들이 디지털 혁신 여정을 계속하면서 더 중요한 워크로드와 데이터를 클라우드로 마이그레이션하고 있으며, 이는 자연스럽게 비용 상승으로 이어진다”라고 말했다.

하지만 조직이 클라우드 비용을 좀 더 적극적으로 관리할 여지가 있다. 포레스터 리서치에 따르면 클라우드 비용 관리 및 최적화(CCMO) 시장이 ‘급격히 성장’하고 있다. 이 범주의 도구들은 하이브리드 및 멀티클라우드 환경 전반의 모든 클라우드 비용에 대한 가시성을 제공하고, 클라우드 지출을 최적화할 기회를 파악하며, 일부 작업을 자동화한다.

포레스터의 최근 평가에서 IBM(클라우드빌리티 및 터보노믹), 브로드컴(클라우드헬스), 플렉세라가 이 영역의 3대 리더로 부상했다. 강력한 성과를 보인 업체로는 하네스(Harness), 모피어스 데이터(Morpheus Data), 클라우드볼트(CloudBolt), 클라우드제로(CloudZero) 등이 있다. 그러나 이들 외에도 클라우드 비용 관리 도구 영역은 광범위하다.

CCMO는 재무 및 여타 현업 부서와 연계된 보다 포괄적인 접근 방식인 핀옵스로 가는 디딤돌로 볼 수 있다. 핀옵스 팀은 클라우드 비용을 최적화할 뿐만 아니라 클라우드 지출을 비즈니스 성과와 연결하는 업무를 수행하게 된다. 핀옵스 분야의 공급업체로는 앱티오(Apptio), 루시더티(Lucidity), 덴시파이(Densify), 핀아웃(Finout) 등이 있다.

린티컴은 클라우드 지출 관리가 AI 와도 관련이 있다며, 클라우드 비용이 폭등하면 조직은 대규모 AI 프로젝트를 시작하는 데 필요한 재정적 자원을 확보할 수 없기 때문이라고 말했다.

하이퍼스케일러가 지속 가능성 문제 해결에 나섬

엔터프라이즈 IT는 데이터센터 탄소 배출량을 줄여야 한다는 압박을 받고 있다. 리소스를 클라우드로 전환한다고 해서 이 문제에서 벗어날 수 있는 것은 아니다. 오히려 기업은 멀티클라우드 환경 전반에서 지속 가능성 노력을 추적하고 보고해야 한다.

GPU 칩은 기존 CPU보다 훨씬 더 뜨겁게 작동하기 때문에 더 많은 냉각이 필요하고, 이는 곧 더 많은 전력 수요를 의미한다. AI가 지속 가능성 노력에 걸림돌이 되는 측면이다.

하지만 하이퍼스케일러들은 엔터프라이즈 IT에 비해 좀더 적극적인 역할을 하고 있다. 그들의 비즈니스에 데이터센터가 차지하는 비중이 크기에 동기화 수준이 다르다. 또 최고 경영진의 지원, 기술 전문성, 재정적 자원을 갖추고 있다. 또한 하이퍼스케일러는 특정 물리적 위치에 묶여 있는 대부분의 기업과 달리 전 세계를 샅샅이 뒤져 지속 가능한 에너지를 공급할 수 있는 지역을 모색할 수 있다.

대형 클라우드 공급업체들은 모두 야심찬 지속 가능성 목표를 설정했다. 마이크로소프트는 2012년부터 탄소 중립을 실천해 왔으며 2030년까지 탄소 중립을 달성할 것으로 예상하고 있다. AWS는 2023년에 소비되는 전력의 100%를 재생 에너지로 충당한다는 목표를 달성했으며, 2040년까지 탄소 순배출 제로를 달성한다는 계획을 세워두고 있다.

그리고 이들 모두 지속 가능성 관점에서 클라우드 리소스를 추적하고 최적화하는 데 도움이 되는 도구를 제공한다. AWS는 고객 탄소 발자국 도구, 마이크로소프트는 애저 탄소 최적화 및 애저 배출량 인사이트, 구글은 클라우드 탄소 발자국 도구를 제공한다.
dl-ciokorea@foundryco.com