IT 예산의 균형을 찾아라··· AI 투자 확대 시대의 IT 리더 전략은?

CEO, 이사회, 그리고 다른 최고 경영진은 계속해서 AI를 전략적 필수 과제로 추진하고 있다.

레노버(Lenovo)와 IDC가 발표한 ‘2025 CIO 플레이북’에 따르면 IT 부서의 AI 투자는 점점 더 늘어나는 추세다. AI 프로젝트에 배정된 IT 예산 비율이 지난해 대비 약 3배 증가했다.

올해 대부분 기업의 IT 예산이 2024년보다 증가했음에도 불구하고, CIO들은 이런 증가분만으로는 조직이 계획한 모든 기술 이니셔티브를 추진하기에 충분하지 않다고 지적했다.

더욱이 IT 리더들은 AI에 대한 경영진의 열망으로 인해 IT 프로젝트 의제를 재조정하고 있으며, AI 지출을 우선시하면서 다른 항목을 후순위에 두거나 심지어 할 일 목록에서 제외하고 있다고 보고했다.

비즈니스 및 기술 컨설팅 회사인 웨스트먼로(West Monroe)에서 하이테크 및 소프트웨어 부문을 이끄는 다발 무기마네는 “예산은 한정되어 있고, AI 투자는 CEO, 이사회, CIO가 비즈니스 역량을 지원하기 위해 반드시 해야 할 일로 여겨진다. 이는 다른 이니셔티브에 사용할 예산을 축소시킬 만큼 중요하게 부각되고 있다. 이런 상황은 조직 내에서 단순히 우선순위를 정하는 방법뿐만 아니라, 예산을 효율적으로 관리하는 방법에 대해서도 심층적으로 논의해야 할 필요성을 증가시키고 있다”라고 말했다.

밀려나는 기존 IT 프로젝트

AI 파일럿, 개념 증명, 전체 구현과 같이 새롭게 우선순위가 부여된 프로젝트를 위해 예산을 재조정하는 일은 기업 환경에서는 이미 익숙한 관행일 수 있다.

레드햇(Red Hat)의 수석 부사장 겸 CIO인 마르코 빌은 “일반적으로 CIO는 너무 많은 우선순위를 가지고 있어 항상 프로젝트에 지연을 겪는다”라고 말했다.

그럼에도 불구하고, ‘AI를 도입하라’라는 최고 경영진의 압박이 IT 예산 할당에 혼란을 초래하고 있다고 IT 컨설턴트, 연구원, CIO들은 설명했다.

소프트웨어 설계 및 제공, 컨설팅 서비스를 제공하는 소트웍스(Thoughtworks)의 최고 AI 책임자 마이크 메이슨은 “여전히 ‘그냥 AI로 뭐라도 해보라’라는 식의 압박이 너무 많아, 정보에 입각해 신중하게 진행하는 전략적 의사 결정에 비해 부담이 더 크다”라고 지적했다.

메이슨은 이로 인해 일부 CIO가 우선시해야 할 작업을 제쳐두고 있다고 언급했다. 예를 들어 일부 조직은 AI에만 집중하기 위해 다른 신기술에 대한 실험을 일시 중단하기도 했다.

글로벌 컨설팅 회사인 더커 칼라일(Ducker Carlisle)의 최고 데이터 및 AI 책임자 파비앵 크로스는 조직들이 AI 실험을 위해 혁신 노력을 미루는 경우가 있다고 말했다.

FTI 컨설팅의 디지털 및 AI 혁신 팀 선임 관리 이사인 수밋 굽타는 특히 조직들이 기술 부채 해결과 기존 시스템 및 아키텍처 현대화를 후순위로 미루고 있다고 말했다. 그는 “이런 장기적인 투자가 우선순위에서 밀려나고 있다. 이는 추후 문제가 될 수 있다”라고 덧붙였다.

리스크와 기회 계산

우선순위 재조정 중 일부는 CIO와 IT팀에 중대한 결과를 초래할 가능성이 있다.

예를 들어, AI 이외의 기술 혁신 부문에서 자금을 삭감하면 다른 신기술이 주류로 자리 잡을 때 IT 팀이 뒤처질 수 있다는 점을 고려해야 한다.

메이슨은 “AI는 기다리지 않고 일찍 실험을 시작해야 한다는 것을 보여주는 좋은 예다. AI 초기 단계에서 실험 자금을 아낀 조직들이 나중에 따라잡기 위해 고군분투하는 사례가 있었다”라고 지적했다.

마찬가지로 굽타는 AI 기반 기회를 쫓는 동안 현대화 노력을 소홀히 한다면, 미래에 조직이 불리한 상황에 처할 수 있다고 말했다. 기존 기술이 미래의 AI 기회를 빠르게 활용할 가능성을 저해할 수 있기 때문이다. 만약 경쟁사가 중요한 순간에 AI를 더 빠르게 활용한다면 상당한 손실로 이어질 수 있다.

더커 칼라일의 크로스 역시 비슷한 견해를 밝혔다. 그는 일부 조직이 AI에 전력을 다하려고 하지만, IT나 데이터 아키텍처 변환에는 돈을 쓰기를 꺼린다고 지적했다. 이 2가지는 AI 발전에 필수적이지만 투자 대비 수익(ROI)을 설명하기 어려운 영역이다.

크로스는 “많은 기업이 기술적 진보를 단숨에 이루려고 하지만, 현실적으로 불가능하다. 그래서 모든 일을 일시 중단하려고 한다”라고 말했다. 그는 이어 “앞으로 나아가야 하는데, 오히려 기존 기술에 모든 직원들을 묶어두고 있다. 기술 혁신에 너무 많은 비용이 드는 시점에 도달하고 나면 발전을 위해 넘어야 할 간극이 더 커져 있을 것”이라고 진단했다.

실제로 디지털 서비스 기업 소프트서브(Softserve)의 2025 데이터 격차 연구에 따르면, 기술 리더의 73%는 자사가 더 가치 있는 데이터 및 분석 이니셔티브를 희생시키면서 최신 생성형 AI 트렌드에 자금이나 인재를 할당 중이라고 생각했다.

웨스트먼로의 무기마네는 CIO와 최고 경영진이 종종 리스크와 절충안을 인식한 상태에서도 이런 결정을 내린다고 언급했다. 무기마네는 “그들은 지금 필요한 투자를 연기하면 미래에 잠재적 문제가 따를 수 있다는 리스크를 기꺼이 받아들일 것”이라고 언급했다.

다만 크로스를 비롯한 몇몇 전문가는 기업이 AI를 활용하기 위해 특정 혁신 및 현대화 노력을 포기하는 것이 때로는 더 현명한 선택일 수 있다고 언급했다.

예를 들어, 소규모 AI의 이점을 추구하는 CIO가 기술 스택의 구성 요소를 현대화한다면 상당한 수익을 창출할 수 있으며, 이는 ROI 회수 기간이 더 긴 현대화 프로젝트에 대한 자금 지원을 확보할 충분한 마진을 제공할 수 있다.

그럼에도 불구하고, 무기마네는 특히 미래 AI 이니셔티브에 유용할 IT 프로젝트를 미루는 경우에 대해서는 경솔하게 접근하지 않도록 주의해야 한다고 말했다. 그는 “AI에는 많은 데이터 투자가 필요하며, 때로는 데이터 이니셔티브에 지출을 정당화하기 어려울 수 있다. 하지만 기업이 AI 이니셔티브에 투자를 고려한다면 데이터에 대한 투자도 확실히 해야 한다. 데이터 정리, 기술 부채 해결, 일부 인프라 업데이트와 같은 이니셔티브는 정량화가 쉽지 않기 때문에 자금을 확보하기 어렵다. 그래도 이는 기초적이며 반드시 수행해야 한다”라고 조언했다.

거버넌스, 그 어느 때보다 중요

AI에 대한 초기 열광이 가라앉으면서, CIO와 경영 고문들은 기업 리더가 다른 필요 사항을 희생하면서까지 AI 이니셔티브를 서두르지 않게 됐다고 언급했다. 이제 기업 리더들이 AI 관련 여부와 관계 없이 비즈니스 목표에 부합하는 투자를 위해 포트폴리오 관리 역량에 더 많이 신경 쓰고 있다는 설명이다.

굽타는 “2024년까지는 많은 기업이 AI를 최우선 순위에 올리고 다른 중요한 사항들을 미루는 경향이 나타났지만, 이제는 더 현명하게 접근해 우선순위를 다각화하려는 추세”라고 분석했다.

그는 또한 CIO와 다른 임원들이 필요한 기술에 집중하기보다는 해결해야 할 문제에 우선순위를 둬야 한다고 강조했다.

그럼에도 불구하고 CIO, 연구원, 컨설턴트들은 여전히 AI 기반 프로젝트에 비해 전통적인 IT 작업이 승인을 받기가 더 어렵다고 지적했다. 무기마네는 “AI 프로젝트의 승인 기준이 더 낮으며, 지금의 상황에서 이는 부당하게 여겨지지 않는다. 그 결과, 다른 초기 단계 기술 도입과 마찬가지로 일부 낭비가 발생할 수 있다”라고 말했다.

반면 더 전통적인 기술을 활용하는 비즈니스 프로젝트의 경우, 작업을 정당화할 만큼 충분한 ROI를 제공하는지 확인하기 위해 더 엄격한 조사를 받을 수 있다고 그는 설명했다.

소트웍스의 메이슨은 “AI로 인해 ‘있으면 좋은’ 수준의 프로젝트들이 뒤로 밀려났다. AI는 IT 부서가 정말로 필요한 프로젝트를 신중하게 선별해야 할 상황을 만들었다. 이제 모든 프로젝트에 대해 더 깊이 생각하고 타당성을 입증해야 한다”라고 언급했다.

CIO들도 AI에 대한 과장된 홍보가 실제 비즈니스 필요 여부보다 기술 자체에만 관심을 끌게 만들 수 있다는 점을 인정했다. 이런 유혹에 성공적으로 대응한 CIO들은 강력한 거버넌스를 갖췄기에 가능했다고 언급했다.

프린시펄 파이낸셜 그룹(Principal Financial Group)의 CIO 캐시 케이는 “리더십 팀과 이사회로부터 AI에 대해 많은 질문을 받지만, 어떤 대가를 감수하더라도 AI를 추진해야 한다는 압력은 없었다”라고 말했다.

오히려 케이는 회사가 미리 설정한 전략적 목표와 그에 도달하기 위한 방법에 집중하고 있다고 밝혔다. 그는 팀이 AI가 “효율성을 얻고 성장을 촉진하는 데 도움이 될 수 있는 지원 기술 중 하나일 뿐이라고 믿는다”라고 말했다.

케이는 IT 부서가 AI 이니셔티브에 우선순위를 두고 있다고 인정하면서도, 이것이 당면한 문제를 해결하고 최상의 ROI를 제공하는 기술이기 때문이라고 말했다.

또한 그는 IT 팀이 AI와 관련 없는 다른 우선순위 프로젝트도 계속 처리하고 있으며, AI 프로젝트로 자원을 이동시킬 목적으로 IT 이니셔티브 진행을 중단한 경우는 없었다고 말했다.

케이는 “회사를 발전시키는 데 도움이 될 가장 높은 우선순위와 이니셔티브에 대해 의견을 공유하고 있다. 이는 어떤 기술이 회사를 발전시킬 수 있는지 구분하는 데 도움이 된다. 이를 통해 AI에 대해 적절한 대화를 나눌 수 있다”라고 조언했다.
[email protected]