멀티클라우드 ROI : 가치와 효율을 극대화하는 방법

지금은 멀티클라우드 시대다. HostingAdvice.com이 IT 리더를 대상으로 실시한 최근 설문조사에 따르면, 응답자의 89%는 기업이 단일 클라우드 서비스 업체에 의존해서는 안 된다고 답했다. 대신 이들은 애저, AWS, 구글과 같은 하이퍼스케일러뿐 아니라 소규모 서비스 업체를 함께 활용하고 있다. 그러나 상황이 순조롭기만 한 것은 아니다. 실제로 73%는 보안 복잡성에 어려움을 겪고 있으며, 45%는 업체 종속을 우려하고 있다.

그리고 배경에는 또 다른 문제가 도사리고 있다. 멀티클라우드 지출이 정말로 투자 대비 효과를 내고 있는지 어떻게 확인할 수 있을까? 멀티클라우드의 ROI는 어떻게 측정할 수 있으며, 이를 어떻게 개선할 수 있을까? 이 질문에 대한 답을 찾기 위해 여러 기업 IT 임원과 클라우드 전문가에게 노하우를 물었다.

멀티클라우드가 수익을 창출하는 방식

멀티클라우드 아키텍처는 복원력을 높여주는데, ROI을 제공하는 분명한 방법 중 하나이다. 크로노스피어(Chronosphere)의 필드 CTO 빌 하인라인은 “아무도 공개적으로 말하고 싶어하지 않지만, 대형 클라우드 장애는 실제로 발생한다”라며, “그런 상황이 오면 한 서비스 업체의 10개 존은 아무 의미가 없다. 바로 이때 멀티클라우드의 가치가 드러난다”라고 강조했다. 분당 다운타임 비용이 높은 기업에 여러 서비스 업체에 걸친 페일오버는 재정과 평판 모두에서 생명줄이 될 수 있다.

하지만 클라우드 서비스 업체는 스토리지와 컴퓨팅 클러스터 이상의 가치를 제공하며, 멀티클라우드 아키텍처는 기업이 특정 워크로드에 가장 적합한 도구를 사용할 수 있도록 한다.

베이스텐(Baseten)의 마케팅 책임자 마이크 빌로도는 “각 클라우드마다 특정 워크로드에 더 적합한 부분이 있다”라며, “비즈니스와 구축하는 제품에 따라 서로 다른 제품을 위해 서로 다른 클라우드를 사용하는 것이 합리적이다”라고 설명했다. 하인라인도 이에 동의하며 “예를 들어 분석 작업은 구글 클라우드 플랫폼에서 실행하고 핵심 워크로드는 AWS에 둘 수 있다”고 말했다.

JLEE & 어소시에이츠의 CEO 지미 리는 “한 클라우드 서비스 업체는 스토리지에서 더 낮은 비용을 제공하고, 다른 서비스 업체는 컴퓨트나 AI 관련 서비스 가격이 더 낮을 수 있다. 올바르게 구현되면 이런 이점이 비용 절감에 큰 도움이 된다”라고 덧붙였다.

성능 역시 멀티클라우드가 빛을 발하는 또 다른 영역이다. 클라우드 리전을 활용해 워크로드를 최종 사용자 가까이에 배치하면 지연 시간이 줄고 반응성이 향상된다. 빌로도는 “잘 알려진 아마존의 통계에 따르면, 지연 시간이 100ms 늘어날 때마다 매출의 1%가 줄어든다”라며, “멀티클라우드를 활용해 고객 가까이 워크로드를 배치하면 이런 문제를 해결할 수 있다”라고 설명했다.

기술적인 이점만 있는 것이 아니다. AI 중심 환경에서는 추론 비용이 클라우드 비용의 대부분을 차지하게 될지도 모른다. 베이스텐의 CTO 아미르 하기햇은 “대기업 상당수에서 추론 비용이 다른 클라우드 비용을 10배 이상 초과하는 경우를 직접 목격했다”라며, “멀티클라우드는 계약 협상에서 상당한 협상력을 제공한다”라고 강조했다.

또한 GPU 같은 희소 자원 접근성도 향상된다. 하기햇은 “최신 하드웨어 수요가 워낙 높아 B200 같은 제품 확보가 어려운 상황이다. 멀티클라우드를 사용하면 이런 GPU가 있는 곳에서 더 나은 가격대비 성능을 쉽게 확보할 수 있다”라고 덧붙였다.

멀티클라우드는 퍼블릭 클라우드와 프라이빗 클라우드 간 워크로드를 분할해 운영 비용 구조를 미세 조정할 유연성도 제공한다. 리미니 스트리트의 글로벌 CIO 조 로칸드로는 이를 직접 경험했다. 로칸드로는 “전력망용 대형 예측 모델을 실행했는데, 막대한 컴퓨팅 성능이 필요했다. 더 정교한 클라우드로 이전하면서 시뮬레이션 시간이 12시간에서 2시간으로 단축됐고, 그 결과 한 달 동안 시뮬레이션을 300% 더 많이 실행할 수 있었다”라고 밝혔다.

멀티클라우드의 한계

이런 모든 멀티클라우드의 이점은 기술 리더에게는 마치 금전등록기의 ‘챙’ 소리처럼 들릴 수 있다. 하지만 이번에 만난 모든 전문가가 이런 ROI을 얻으려면 실행력이 관건이며, 이상적인 결과는 쉽게 달성되지 않는다고 강조했다. 실제로 많은 기업이 멀티클라우드가 마찰, 중복, 수익 감소를 초래할 수 있음을 경험하고 있다.

EasyAudit.ai의 CEO 크리스찬 쿠리는 “팀이 업무 시간의 절반을 맥락 전환(context switching)에 소비한다면 유연성은 신화에 불과하다”고 지적했다. 쿠리는 “엔지니어가 두 개의 클라우드 콘솔, 두 개의 IAM 시스템, 두 개의 문서 세트를 동시에 관리하면서 생산성이 떨어지는 것을 목격했다”라고 설명했다. 민첩성을 강화하기보다는, 여러 환경이 중복된 도구와 호환되지 않는 워크플로우 때문에 팀이 지칠 수도 있다. 그리고 애플리케이션 배포에 성공하더라도 성능 저하를 경험할 수 있다.

많은 멀티클라우드 전략의 핵심 축으로 여겨지는 워크로드 이식성이라는 개념조차 기업이 기대하는 대로 이루어지는 경우가 드물다. YL 벤처스 파트너이자 아카마이 전 CSO인 앤디 엘리스는 “기업이 스스로를 속이는 거짓말 중 하나가 멀티클라우드 전략이 애플리케이션을 클라우드 간에 자유롭게 이동할 수 있게 해준다는 것”이라며, “실제는 거의 정반대다”라고 지적했다.

대부분의 경우, 애플리케이션은 서비스 업체 고유의 서비스에 긴밀히 통합되어 있으며, 바로 그런 특화 기능 때문에 멀티클라우드를 선택했을 수도 있다. 엘리스는 “애플리케이션을 ‘서버랙을 가상화한 것’처럼 단순하게 모델링할 수는 없다”라며, “이제 애플리케이션은 여러 마이크로서비스로 구성된 생태계이며, 이 중 많은 부분에 비용을 지불해야 한다”라고 설명했다.

이런 긴밀한 결합은 이식성뿐 아니라 협상력도 제한한다. 엘리스는 “기존 애플리케이션을 쉽게 옮기겠다고 위협할 협상력이 사실상 없다”라며, “클라우드 마이그레이션 프로젝트는 과거 데이터센터 마이그레이션보다 비용이 더 많이 들기도 한다”고 말했다. 클라우드 서비스 업체도 이 사실을 잘 알고 있다. 이들은 고객 유지를 원하지만 전환 비용과 복잡성 자체가 사실상 업체 종속의 한 형태가 된다.

왜 멀티클라우드 ROI를 증명해야 하는가

문제의 핵심은 멀티클라우드가 비용 절감 여부가 아니라 그 비용을 치를 가치가 있느냐이다. 포레스터 애널리스트 트레이시 우는 “대부분은 워크로드를 클라우드로 옮기는 이유가 비용 절감 때문이 아니라는 걸 이미 알고 있다. 그래서 다음 질문은 가치가 있느냐는 것이다. 이 질문은 단순한 비용 관리 논의를 넘어서는 문제다”라고 강조했다.

우는 많은 기업이 장기 계획의 일환으로 이런 결정을 내리지 않았다며, “이른바 ‘전략’이라는 것이 사실은 ‘다른 회사도 하니까 우리도 해야겠다’는 식으로 시작된 경우가 많다. 특히 팬데믹 기간에 그런 경향이 강했다”고 지적했다.

아직 규모를 키우는 중인 기업에는 멀티클라우드가 아직 먼 이야기일 수도 있다. 베이스텐의 빌로도는 “지연 시간 문제와 관련해서도 대부분 기업은 일정 수준의 규모에 도달하기 전까지는 지연 문제가 있다는 사실조차 인식하지 못한다”라고 말했다. 빌로도는 “대부분 기업이 처음부터 멀티클라우드를 도입하지는 않는다. 멀티클라우드는 제품 채택보다는 인프라 투자이기 때문이다. 하지만 일정 수준의 트래픽, 성능 요구, 고객 수요에 도달하면 멀티클라우드 전환 압박이 커진다”라고 설명했다.

문제는 이런 성장이 깔끔한 전략적 롤아웃의 형태로 진행되는 경우가 드물다는 점이다. 기술팀은 흔히 익숙한 도구를 선택한다. EasyAudit.ai의 쿠리는 “처음부터 멀티클라우드를 생각하지는 않았다. 여러 팀이 각자 아는 걸 선택하면서 이렇게 됐다. 개발팀은 GCP, 운영팀은 AWS를 선택했다. 그러다 법무팀이 특정 엔터프라이즈 계약 때문에 프라이빗 클라우드 옵션을 요구했다. 그렇게 업체 지옥이 시작됐다”라고 밝혔다.

성숙한 대기업도 종종 의도치 않게 멀티클라우드 복잡성에 빠진다. YL 벤처스의 엘리스는 “인수합병을 하면 클라우드 환경도 따라 들어오고, 성장 속도에 맞춰 클라우드 서비스가 쌓인다. 개발팀은 각자 익숙한 클라우드 기술을 도입하고, 파트너십이 가격 할인 혜택으로 이어져 특정 클라우드 서비스를 쓰게 되는 경우도 있다”라고 말했다.

때로는 결정이 내부가 아닌 외부에서 내려지기도 한다. 인프라 소프트웨어를 판매하는 솔루션 업체는 고객의 선호가 클라우드 선택을 좌우한다. 빌로도는 “어떤 기업은 AWS를, 어떤 기업은 GCP를 주로 사용한다. 소프트웨어가 해당 클라우드에서 실행되지 않으면 계약 자체가 불가능해질 수 있다”라고 설명했다. 우도 동의하며, “많은 경우 선택권이 없다. 정치적 이유, 특정 엔지니어의 독단, 파트너 요구 등으로 인해 어느새 모두가 원하는 클라우드를 지원해야 하는 상황이 벌어진다”라고 덧붙였다.

결국 전략적 계획이 아닌 일회성 결정으로 짜깁기된 아키텍처가 만들어진다. JLEE & 어소시에이츠의 리는 “우리 고객 중 다수가 다양한 클라우드 서비스를 사용한다. 이들 서비스는 흔히 장기적이고 포괄적인 전략 없이 그때그때 추천받아 도입한 것”이라고 지적했다.

이런 복잡성을 헤쳐나가려면 비즈니스 감각을 갖춘 IT 리더십이 필요하다. 리미니스트리트의 로칸드로는 “IT 부서는 일반적으로 기술적, 리스크 관점으로만 클라우드 서비스 업체를 바라본다. 상업적 감각이 있는 CIO가 명확한 지표, 모니터링, 비용 인식을 구축해 진정한 가치를 파악해야 한다”라고 강조했다.

멀티클라우드 ROI를 개선하는 팁 : 전략, 구조, 역량

멀티클라우드는 상당한 이점을 제공한다. 단, 계획적으로 활용할 경우에만 그렇다. 단순히 여러 플랫폼에 계정이 있다고 해서 혜택이 자동으로 생기는 것은 아니다.

JLEE & 어소시에이츠의 리는 “올바르게 구현하지 않으면 멀티클라우드 비용이 통제 불능으로 치솟을 수 있다”라고지적한다. 리미니 스트리트의 로칸드로도 “많은 기업에서 멀티클라우드의 TCO가 관리, 모니터링, 직원 재교육 등을 포함하면 초기 기대치와 서비스 업체의 약속을 훨씬 초과한다”라고 덧붙였다.

거버넌스, 가시성, 아키텍처적 원칙이 없다면 비용 상승, 팀 혼란, 기회 손실의 위험에 처할 수 있다. 전문가들은 멀티클라우드를 투자할 가치 있는 체계로 만들기 위해 다음과 같은 단계를 권장했다.

정말 필요한 클라우드만 사용한다. 이 조언은 자명해 보이지만, 실제로는 자주 간과된다. 플루럴사이트(Pluralsight)의 최고 클라우드 전략가 드류 퍼먼트는 “너무 많은 리더가 멀티클라우드를 전략이 아니라 상태의 상징으로 여긴다. 중요한 것은 더 많은 클라우드가 아니라 ‘적절한 이유로 적절한 클라우드’를 선택하는 것”이라고 말했다.

EasyAudit.ai의 쿠리는 직설적인 질문을 던졌다. “실제로 운영 중인 각 클라우드의 가치는 무엇인가?” 핵심 서비스나 규제 요건을 지원하지 않는 것은 모두 제거 대상으로 분류했다. 쿠리는 “이론적인 중복성을 쫓는 것이 아니라 유령 인프라를 정리하고 청구서를 하나로 단순화하려 했다”라고 설명했다.

클라우드 비용과 가시성은 맞물려 있다. 크로노스피어의 하인라인은 “많은 팀이 여전히 비용을 단순한 항목으로 취급한다. 거버넌스 활동으로 여기지 않는다”라고 지적했다. 가시성도 마찬가지다. “멀티클라우드를 잘 운영하는 팀은 비용과 가시성을 모두 일류 시민처럼 다룬다. 즉 철저한 태그 관리, 명확한 소유권, 의도적인 계측이 필요하다. 핀옵스팀이 지출 1달러가 어떤 서비스, 어떤 팀에서 나간 것인지 추적하지 못하면 완전히 장님 상태다”라고 강조했다.

YL 벤처스의 엘리스도 동의했다. “클라우드 서비스 사용 현황을 파악하지 못하면 도자기 가게를 불도저로 밀고 가는 격이다”라며, 복잡한 프로세스 도입 대신, 시작부터 고급 서비스 방식으로 비용 효율적 환경에 팀을 온보딩할 것을 제안했다.

아키텍처를 검토해 비효율을 제거한다. 엘리스는 같은 서비스 업체 내 중복 계정을 식별하는 기본 위생 관리부터 권장했다. 이렇게 하면 “대량 구매로 더 나은 가격 협상이 가능하다”는 것. 간단한 프랙티스로도 낭비를 줄일 수 있다. 리미니 스트리트의 로칸드로는 “개발자가 테스트 및 개발 환경을 띄운 후 종료하는 것을 잊어버리는 경우가 있었다.  작업이 끝나면 인프라 환경을 종료해야 한다. 클라우드 수도꼭지를 계속 열어두면 안 된다”라고 조언했다.

생산성과 결과물을 측정한다. 퍼먼트는 “멀티클라우드 투자는 의미 있는 생산성 향상과 비즈니스 성과로 측정해야 한다”라며, “더 빠른 배포와 고객 가치를 이루지 못한다면 멋진 이름의 클라우드 요금만 쌓일 뿐”이라고 말했다.

팀의 역량을 키우고 목표 달성을 이끈다. 퍼먼트는 “유연성이 빠른 딜리버리로 전환되려면 팀이 차이를 잘 다룰 수 있도록 훈련되어야 한다”라고 강조했다. 그러나 모든 개발자가 모든 클라우드를 마스터할 필요는 없다. “목표는 한 번 구축해 어디서든 실행하고 신속히 제공하는 것이다”라고 덧붙였다.

이를 위해서는 똑똑한 결정을 지원하는 아키텍처가 필요하다. 엘리스는 “개발자는 마찰이 적은 경로를 택하기 마련이라, 기업 입장에서 가장 비용 효율적인 플랫폼을 쉽게 채택하도록 만드는 것이 중요하다”라고 설명했다.

멀티클라우드 복잡성에 필요한 스마트한 전개

과거에는 멀티클라우드가 기술적 업그레이드 혹은 세련됨의 상징처럼 여겨졌지만, 이제는 더 깊은 전략적 시각이 필요하다. 클라우드 아키텍처를 비즈니스 성과와 연결하는 안목이 요구된다. 이는 IT 자체의 역할 변화와 함께 진행되고 있다.

포레스터의 트레이시 우는 “멀티클라우드 ROI라는 질문의 배경이 되는 맥락은 많은 IT 부서가 내몰리고 있는 어떤 것이라고 생각한다”라고 말했다. 우는 “그리고 이들 IT 부서가 내몰리고 있는 이유는 IT가 데스크톱에서 애플리케이션 몇 가지를 실행하던 과거의 IT가 아니기 때문이다. 이제 IT 전략은 비즈니스 혁신과 디지털 혁신을 가능하게 하는 핵심 뼈대가 됐다. IT의 위상이 점점 더 높아지고 있으며, 클라우드가 사람들이 일하는 방식으로 정말로 변화시키고 있는 이유이기도 하다”라고 설명했다.

클라우드가 가져온 변화를 넘어 더 큰 질문이 떠오르고 있다. 멀티클라우드의 ROI는 무엇인가? 멀티클라우드를 단순히 체크리스트처럼 운영하거나 구조 없이 확장해온 기업이라면, 이 질문의 답이 ‘그다지 없다’일 수 있다. 그러나 클라우드 아키텍처를 비즈니스 우선순위, 비용 통제, 성능 목표, 팀 역량의 현실적 평가와 맞추는 기업에 멀티클라우드는 장기적 민첩성과 복원력의 토대가 되며, 초기 필수 투자와 이후의 투자에 대한 추가적인 수익까지 제공할 것이다.
dl-ciokorea@foundryco.com