‘예산 초과해도 가치 높다’··· IT 리더가 여전히 클라우드 선호하는 이유

클라우드 사용량이 급격히 늘면서 예상치 못한 지출 증가가 발생하고 있지만, IT 리더들은 비용을 통제하기 위한 전술적 변화 외에는 IT 전략을 근본적으로 바꿔야 할 필요성을 느끼지 않고 있다.

자바 플랫폼 제공업체 아줄(Azul)이 실시한 설문조사에 따르면, IT 리더의 83%가 현재 클라우드에 예상보다 더 많은 비용을 지출하고 있는 것으로 나타났다. 그 중 절반 가까이는 예상 대비 26% 이상을 초과 지출하고 있다. 반면 예상보다 적게 지출한다고 답한 CIO는 2%에 불과했다.

클라우드 시장 전문가들은 대규모 AI 워크로드가 지출 증가의 주요 원인이라고 지적했다. 또한 개발자들이 클라우드 서비스 비용에 대해 제대로 인식하지 못하는 것도 문제라고 봤다. 많은 IT 리더가 AI 도입에 따른 비용 증가에 대응하기 위해 클라우드 전략을 강화하고 있지만, 아줄의 조사 결과는 아직 해결해야 할 과제가 많다는 점을 시사한다.

그러나 온프레미스로 돌아가는 것이 해결책으로 고려되는 상황은 아니다. 클라우드 지출은 크게 늘고 있지만, IT 리더 10명 중 8명은 클라우드에의 의존이 여전히 조직의 비용을 절감해 준다고 설명했다. 아줄 사장 겸 CEO인 스콜 셀러스는 이를 ‘제본스 역설(Jevons paradox)’이라고 설명했다.

제본스 역설이란 시간이 지나 자원이 저렴해지면 더 많이 소비되어 결국 총 지출이 증가하는 현상을 말한다. 셀러스는 IT 리더들이 예산보다 더 많은 금액을 클라우드 서비스에 지출하고 있음에도, 자체 서버 운영이 더 비쌀 것이라고 생각한다고 언급했다.

다만 그는 클라우드가 IT 리더로 하여금 새로운 서비스와 제품, 기능을 더 빠르게 혁신하고 출시하도록 지원하고 있다고 말했다.

셀러스는 “예전에는 새 기능을 출시하려면 더 많은 컴퓨팅 인프라가 필요했다. 그러면 델 영업 담당자에게 연락해서 주문하고, 3개월 후에야 서버가 배송됐다. 그리고 그로부터 몇 달이 더 지나서야 IT 담당자들이 서버를 설치할 수 있었다”라고 말했다.

‘할 수 있는 일이 많지 않다’

맞춤형 AI 개발 플랫폼을 제공하는 Pmfm.ai의 설립자 아디티야 삭세나는 올해 분기별 클라우드 비용이 약 25% 증가했다고 전했다. 비용의 주요 원인(약 90%)은 사용량 증가였다. 그는 회사 고객들이 기존 모델보다 더 많은 토큰을 소비하는 연구 중심 AI 모델을 더 많이 만들고 있다고 밝혔다.

또한 삭세나는 많은 고객이 자체 서버 인스턴스와 같은 전용 클라우드 리소스를 원한다고 설명했다.

Pmfm.ai는 비용을 통제하기 위해 클라우드 대기업이 제공하는 스타트업 특별 가격 정책을 활용하고 있지만, 삭세나는 큰 효과를 기대하지 않는다고 밝혔다. 한 클라우드 업체는 Pmfm.ai의 클라우드 인프라 최적화를 도와 3~5% 정도의 비용 절감이 가능할 것이라고 예측했다.

삭세나는 “이번 분기에 추가한 대부분의 서비스는 예상치 못한 트래픽 급증에 대비하기 위한 예방 차원의 조치였다. 이런 상황은 예상했던 일이고, 우리가 할 수 있는 일이 많지 않았다”라고 말했다.

클라우드 지출 통제

삭세나의 경험은 많은 IT 리더가 공감할 만한 이야기다. 클라우드에 전념하면서도 지출이 예상을 넘어설 때 비용을 통제하기 위한 다양한 전략을 고려해야 하는 상황이다.

아줄의 조사에 따르면, 비용 관리를 위한 주요 전략으로는 워크로드 최적화, 클라우드 비용 관리 도구 활용, 할인 협상, 클라우드 배포 감사, 핀옵스(FinOps) 접근법 도입 등이 있다.

아줄의 셀러스는 모든 방법을 종합적으로 활용할 것을 권장했다. 그는 “클라우드 지출을 최적화하는 유일한 방법은 없다. 어떤 애플리케이션이 어떤 자원을 소비하는지 정확히 파악할 수 있는 뛰어난 관찰 능력과 모니터링, 그리고 애플리케이션 내 마이크로서비스에 대한 더 세밀한 분석 등 모든 방법을 동원해야 한다”라고 설명했다.

셀러스는 또한 조직이 사용하는 클라우드 자원의 유형도 검토해야 한다고 조언한다. 예를 들어, 중요한 앱을 실행하기 위해 초저지연 클라우드 스토리지가 필요한 경우도 있지만, 그렇지 않다면 지연 시간이 길어도 저렴한 콜드 스토리지를 사용할 수 있다.

클라우드 비용의 약점은 ‘개발자 교육’

셀러스는 IT 리더가 클라우드 자원을 사용할 때 비용 절감과 관련된 데브옵스(DevOps) 관행을 도입해야 한다고 조언했다. 특히 많은 조직이 클라우드 서비스 비용에 대해 개발자를 교육시키지 않는다는 사실이 충분히 주목받지 못하고 있다는 설명이다. 그는 클라우드 대기업들이 쉽게 호출할 수 있는 개발자 서비스를 풍부하게 제공하기 때문에 별것 아니라고 생각하는 경우가 많다고 지적했다.

셀러스는 “아마존이 제공하는 개발자용 서비스는 셀 수 없을 만큼 많다. 그 중 일부는 상당히 비싸지만, 개발자들은 이를 잘 모른다. 개발자는 ‘이 문제를 해결하기 위해 직접 솔루션을 개발하는 대신 아마존이 이미 제공하는 서비스를 이용하면 내 일은 끝난다’라고 생각하기 쉽다”라고 말했다.

AI 기반 소프트웨어 개발 플랫폼을 제공하는 하네스(Harness)의 필드 CTO 닉 더킨은 개발자와 재정적 요소 간의 단절이 클라우드 비용 증가로 이어지는 실제 문제라고 지적했다. 예를 들어, 클라우드 기반 GPU나 CPU 접근 비용을 모르는 개발자는 목재나 벽돌 가격을 모르는 집 건축업자와 같다고 더킨은 비유했다.

그는 “가장 똑똑한 엔지니어들에게 최적화할 수 있는 서비스 정보에 접근할 기회를 주지 않는다면, 어떻게 그들이 최적화를 할 수 있겠는가? 그러다 보면 한 달 후에 재무팀이 찾아오게 되는 것”이라고 말했다.

더킨은 모바일 앱에 크게 의존하는 은행 같은 기업들이 특히 취약할 수 있다고 설명했다. 그는 모든 산업의 IT 리더가 개발자에게 사용 중인 클라우드 서비스 비용을 교육할 것을 권장했다. 클라우드의 핵심 가치인 확장성이 예산에 큰 영향을 미칠 수 있기 때문이다.

더킨은 “개발자가 무언가를 배포할 때마다 클라우드에서 비용이 발생한다. 개발자가 구축한 아티팩트가 여러 지역, 여러 영역으로 확장 전달되기 때문에, 한 번 과도하게 설정하면 100번 과도하게 복제될 수 있다”라고 말했다.
[email protected]