“기존 방식은 한계에 다다랐다”···AI 수요 및 비용 급등에 기업은 가상화 전략 전면 재검토 중

비용 예측의 불확실성과 AI 준비도에 대한 우려로 많은 IT 리더가 가상화 전략을 대대적으로 변경할 계획인 것으로 나타났다.

HPE의 최근 설문조사에 따르면, IT 의사결정권자 3분의 2가 향후 2년 내 가상화 배포 환경을 재정비할 계획이라고 밝혔다. 그러나 실제로 조직 차원에서 변화에 대비가 돼 있다고 답한 비율은 5%에 그쳤다.

HPE가 ‘대규모 가상화 재편’이라고 칭한 이번 흐름의 배경에는 비용 문제가 있다. 2023년 말 브로드컴(Broadcom)이 VM웨어(VMware)를 인수한 이후 라이선스 비용이 인상되면서 일부 조직은 ‘탈가상화’를 검토하기 시작했다. 다만 설문에 참여한 조직의 절반 이상은 여전히 VM웨어를 주력 가상화 플랫폼으로 운영하고 있는 것으로 나타났다.

설문에 따르면 VM웨어의 가격 인상에 더해, 올해 클라우드 비용이 예상보다 높게 집행되고 있다는 점도 IT 리더의 부담으로 작용하고 있다.

HPE 하이브리드 클라우드 부문 COO 행 탄은 “가상화 비용이 사실상 5배로 뛰었고, 동시에 AI 투자와 급여 체계 현대화까지 추진해야 하는 상황이라 기업은 감당하기 어려운 비용 부담을 떠안게 됐다. 이제 모두가 대안을 찾고 있다”라고 전했다.

다만 HPE는 이런 움직임의 이면에, 기업이 AI 시대에 걸맞은 인프라를 갖추고 있는지에 대한 근본적인 고민과, 클라우드에서 운영 중인 가상머신 구조가 AI 워크로드를 제대로 감당할 수 있는지에 대한 의문이 있다고 설명했다.

가상머신과 클라우드를 동시에 재설계

많은 IT 리더가 AI에 최적화된 가상화 역량을 원하고 있다. 동시에 AI와 가상화가 어떤 방식으로 결합해야 하는지를 고민하며 기존 클라우드 컴퓨팅 환경 전반을 다시 들여다보고 있다.

AI 비용을 통제하고 워크로드를 면밀히 모니터링하며 벤더 종속을 피하려는 요구가 커지면서, 하이브리드 클라우드 환경에 대한 수요도 빠르게 증가했다고 탄은 설명했다. 조사에 따르면 IT 리더는 가상화와 클라우드 환경을 현대화하는 과정에서 통합 백업, 크로스 플랫폼 거버넌스, 통합 옵저버빌리티와 같은 기능도 함께 요구 중인 것으로 나타났다.

탄은 비용 부담과 AI 현대화 과제가 맞물리는 지금이 IT 리더가 기존 가상화 스택을 원점에서 다시 점검할 기회일 수 있다고 분석했다. 그는 “위기 속에도 기회는 있다”라며 “CIO 입장에서는 ‘이제 전략을 다시 설계할 수 있는 시점이 왔다’고 판단할 수 있다”라고 말했다. 이어 “대부분의 IT 리더는 그동안 하나의 스택과 운영 모델로 표준화해 왔지만, 해결해야 할 과제가 있다는 사실도 알고 있었다”라고 설명했다.

AI가 바꾸는 가상머신의 역할

IT 서비스 및 애플리케이션 개발 기업 탭포스(Tapforce)의 설립자 겸 CTO 아르투르 발라반스키는 AI가 기존 가상화 활용 방식을 근본적으로 뒤흔들고 있다고 진단했다.

발라반스키는 “AI 워크로드는 GPU 의존도가 높고 수요 예측이 어렵다. 한 번 용량을 산정해 가상머신을 구성한 뒤 그대로 운영하던 기존 모델은 더 이상 통하지 않는다. 기업은 전면적인 가상화가 과연 필요한지, 아니면 더 가벼운 계층이 AI 기반 프로젝트에 더 적합한지 고민하기 시작했다”라고 설명했다.

그는 기존 가상화 플랫폼이 CPU 중심 구조이며 비교적 안정적인 수요를 전제로 설계된 반면, AI 워크로드는 메모리 사용량이 크고 GPU에 크게 의존하며 지연 시간에도 민감하다고 분석했다. 발라반스키는 “추상화 계층은 비용과 성능 저하를 유발하고, 모델이 실제 대규모로 확장되는 순간 문제가 본격적으로 드러난다. 미래 수요를 예측하고 설계하는 역할을 맡은 이들에게는 전혀 새로운 환경”이라고 말했다.

냉난방 및 데이터센터 부품 제조 기업 댄포스(Danfoss)의 CIO 수네 바스트럽은 비용 문제를 넘어, 가상화와 AI가 ‘양질의 데이터 확보’라는 지점에서 맞닿아 있다고 설명했다. 그에 따르면 댄포스는 최근 데이터 이동성과 유연성에 초점을 맞춰 가상화 기술 전반을 재평가했다.

바스트럽은 “가상화는 단순히 하나의 물리 서버에서 자원을 더 효율적으로 활용하는 수준을 넘어선다. 앞으로 등장할 훨씬 더 역동적인 사용례에 대비하는 과정이다. 많은 워크로드가 중앙에서 분산된 위치로, 나아가 엣지로 이동하게 될 것”이라고 말했다.

그는 댄포스에서 AI를 도입함에 따라 가상화와 데이터 전략 역시 진화해야 할 것이라고 내다봤다. 그는 “AI에서 실질적인 가치를 끌어내기 위해 핵심적으로 요구되는 것은 결국 양질의 데이터에 대한 접근성”이라고 강조했다.

제약 요인

설문에 따르면 가상화 전략을 바꾸는 과정에는 여러 걸림돌이 존재한다. 응답자의 4분의 1 이상은 예산 제약이 핵심 걸림돌이라고 답했다. 또한 약 4분의 1은 기술 복잡성, 마이그레이션 리스크, 역량 격차를 주요 장벽으로 지목했다.

바스트럽은 IT 조직 차원의 준비 부족도 또 다른 장벽이라면서, CIO의 역할 중 하나가 벤더나 기술을 변경해야 하는 이유를 내부에 설득하는 것이라고 설명했다.

그는 “CIO가 결국 고민해야 할 질문은 ‘이미 시장에 나와 있는 기술을 어떻게 받아들일 준비를 할 것인가, 그리고 AI 혁신 사례가 현실화되는 시점에 함께할 파트너를 어떻게 찾을 것인가’다”라고 말했다.

발라반스키는 예산과 역량 부족, 변화에 대한 두려움 역시 가상화 전환의 제약 요인이라고 분석했다. 발라반스키는 “대규모 전환은 이론적으로 타당해 보여도 비용이 크고 조직에 혼란을 초래한다. 팀은 현재 운영 중인 환경에 익숙하고, 이를 재교육하거나 대체하는 데에는 실제 위험이 따른다. 결국 내부 의사결정에서는 가격과 안정성이 우선순위를 차지하는 경우가 많다”라고 밝혔다.

신중한 접근 필요

가상화 전환에 여러 제약 요인이 존재하는 만큼, HPE는 IT 리더의 속도 조절이 필요하다고 조언했다. 탄은 모든 워크로드를 한번에 새로운 업체로 옮길 필요는 없다고 설명했다.

탄은 “비용이 오르니 가능한 한 빨리 이전해야 한다는 반응이 나올 수 있다. 그러나 지금은 전략을 다시 설계할 기회인 만큼 충분히 고민하고 접근해야 한다. HPE 고객에게도 서두르지 말 것을 권하고 있다”라고 전했다.

IT 서비스 기업 스라이브(Thrive)의 COO 스콧 스틸은 새로운 가상화 솔루션이 전체 IT 환경에 어떻게 들어맞는지 종합적으로 검토해야 한다고 강조했다. 가상화가 더 큰 IT 전환 논의의 한 축인 만큼 AI와 향후 수요를 중심에 두고 접근해야 한다는 설명이다.

스틸은 “AI 역량을 갖춘 새로운 기술과 인프라를 앞세운 신규 벤더가 잇따라 등장하고 있다. 지금은 과거의 환경에 맞추는 것이 아니라, 앞으로 전개될 방향에 대비해 전체 인프라를 점검해야 할 시기”라고 조언했다.
dl-ciokorea@foundryco.com