AI 실험은 끝났다…CEO가 원하는 건 ‘매출로 이어지는 기술’

거의 모든 CIO에게 AI 도입은 최우선 과제로 자리 잡았다. CEO가 직접 내려보낸 핵심 지시사항이다.

CIO.com의 ‘2026년 CIO 현황 조사’에 따르면, CEO들은 CIO의 최우선 과제로 AI 연구와 도입을 꼽았다. 이러한 결과는 다른 여러 조사와도 일치하며, AI 구현을 IT 부문의 최우선 과제로 지목했던 2025년 조사와도 같은 흐름을 보인다.

다만 CEO들의 기대는 한층 높아졌다. 더 이상 AI 실험이나 개념검증(PoC)에는 관심이 없으며, 정량적으로 측정 가능한 가치를 창출하는 AI 프로젝트를 요구하고 있다. 일부 전략적 CEO들은 여기서 한 걸음 더 나아가, 조직의 운영 방식과 제품·서비스 자체를 AI로 재편하려는 움직임을 보이고 있다. 또한 CIO가 단순히 실행에 협력하는 수준을 넘어, 이러한 기회를 주도적으로 발굴하고 창출하길 기대하고 있다.

타타컨설턴시서비스의 비즈니스 혁신 총괄 샨키 비스와나탄은 “CEO들은 CIO가 AI의 진정한 가치를 어떻게 끌어낼지에 대해 주도적으로 나서길 원한다”라며 “단순한 생산성 향상을 넘어 새로운 가치 제안으로 전환해야 한다”고 말했다. 이어 “CIO가 AI를 실제 비즈니스에 어떻게 활용할 수 있는지를 보여줄 수 있는 중요한 기회”라고 덧붙였다.

하지만 이러한 요구는 결코 쉽지 않은 과제다. 많은 CIO와 경영진이 아직 이를 충분히 이행하지 못하고 있는 것이 현실이다.

가트너의 CIO 및 경영진 리더십 부문 수석 애널리스트 제니퍼 카터는 “여전히 많은 CIO가 AI를 통해 기업 전반을 획기적으로 개선할 수 있는 활용 사례를 찾는 데 어려움을 겪고 있다”라며 “업무 흐름과 프로세스, 문제 지점을 파악하고 이를 AI로 어떻게 재설계할지 정의하는 데도 어려움을 겪고 있다”고 설명했다.

이어 “가능성은 무한하지만, CEO들은 ‘이걸로 무엇을 할 수 있는가’를 묻고 있는 상황에서 많은 CIO가 아직 AI의 전체 잠재력을 이해하는 단계에 머물러 있다”고 덧붙였다.

CEO가 AI에 기대하는 것

AI를 통해 성과를 창출하라는 CEO의 요구는 올해 새롭게 등장한 것은 아니다. 2022년 11월 챗GPT 출시 이후 생성형 AI가 기업 환경에 본격적으로 확산되면서, 이는 이미 많은 조직에서 핵심 전략 과제로 자리 잡아 왔다.

다만 올해 들어 달라진 점은, CIO에게 AI 투자에 대한 가시적인 투자 대비 수익(ROI)을 요구하는 목소리가 한층 커졌다는 것이다. 실제로 ‘2026년 CIO 현황 조사’에서 CEO들은 ‘AI 정책 수립과 ROI 지표 구축’을 CIO의 10대 핵심 과제 중 하나로 꼽았다.

타타컨설턴시서비스의 비스와나탄은 “CEO들은 AI에 투입된 비용이 성과보다 훨씬 크다는 점에 점점 더 불만을 느끼고 있다”라며 “일부 생산성 향상 효과는 있지만, 여전히 단편적인 수준에 머물러 있다”고 말했다.

수년간 AI에 투자해 온 CEO들은 이제 AI를 통해 실제 매출을 끌어올려야 한다는 긴박감을 느끼고 있다. 이러한 요구는 매출 성장 목표 달성 지원과 혁신 주도 등 다른 IT 우선 과제와도 맞닿아 있다.

IDC의 엔드유저 리서치 및 컨설팅 부문 그룹 부사장 다니엘 사로프는 “CEO들은 IT가 단순한 생산성 향상을 넘어, AI를 통해 매출 성장을 이끌어내길 요구하고 있다”고 말했다.

IDC의 C-레벨 기술 조사에 따르면, 전 세계 CIO와 CTO의 절반 이상이 AI와 자동화를 최우선 비즈니스 목표로 꼽았다.

사로프는 “기업들은 경쟁 방식, 제품 개발 방식, 고객 서비스 제공 방식을 바꾸지 않으면 안 되는 압박을 받고 있다”고 설명했다.

이러한 요구에 대응하기 위해 CIO는 기존의 실험 중심 접근에서 벗어나, 대규모로 적용 가능한 AI 이니셔티브를 설계해야 한다.

사로프는 “AI 프로젝트를 명확한 비즈니스 성과와 연결하는 보다 체계적인 접근이 필요하다”라며 “많은 조직이 실험과 파일럿 단계에서 실제 운영 환경으로 넘어가 측정 가능한 가치를 창출하는 데 어려움을 겪고 있다”고 말했다. 이어 “이 전환 과정은 예상보다 훨씬 어렵다”고 덧붙였다.

이 같은 어려움에는 여러 요인이 작용한다. AI의 기반이 되는 데이터 품질 문제가 대표적이며, 기술 부채와 레거시 환경 역시 혁신 속도를 늦추고 비용을 증가시키는 요인으로 지목된다. 여기에 예산 압박까지 더해지면서 상황은 더욱 복잡해지고 있다.

또한 일부 조직에서는 IT가 여전히 비즈니스 전략 파트너로 자리 잡지 못한 점도 문제로 꼽힌다.

CIO에게 열린 기회

가트너 조사에 따르면 CEO들이 IT에 기대하는 방향에서도 유사한 흐름이 나타난다. 기술은 CEO의 3대 전략 우선순위 중 하나로, 1위인 성장과 2위인 재무(비용 관리 등)에 이어 세 번째로 중요한 요소로 꼽힌다.

가트너의 제니퍼 카터 수석 애널리스트는 “CEO들이 기술을 우선순위로 둔다고 할 때, 실제로는 AI를 의미하는 경우가 많다”고 설명했다.

카터는 다만 아직까지 IT 조직이 혁신적인 AI 성과를 충분히 보여주지 못하고 있다고 지적했다. 그 원인 중 일부는 CEO에게도 있다고 봤다. 여전히 AI를 생산성 향상이나 효율화 관점에서 바라보는 경향이 강하다는 것이다. 실제로 대부분의 CEO가 시간을 절약하는 용도로 AI를 활용하는 반면, 의사결정 지원처럼 성장으로 이어지는 영역에 활용하는 비율은 2%에 불과하다는 조사 결과도 있다.

카터는 이러한 상황이 CIO에게 기회가 될 수 있다고 강조했다. AI를 통해 조직의 운영 방식과 생산 구조를 근본적으로 재편할 수 있는 영역을 찾아낸다면, CIO가 기업 경쟁력 강화의 핵심 역할을 맡을 수 있다는 설명이다.

카터는 “CIO는 영향력과 주목도가 높은 전략적 기술 스토리를 적극적으로 강화해야 한다”라며 “기술 리더로서 해당 기술이 무엇을 할 수 있는지 조직 전반에 알리고, 필요한 기술 이해도를 구축할 책임이 있다”고 말했다. 이어 “지금은 CIO 역할 역사상 가장 큰 기회의 물결 속에 있다는 점을 인식해야 한다”고 덧붙였다.

타타컨설턴시서비스의 샨키 비스와나탄 역시 일부 CIO가 이러한 역할을 실제로 수행하고 있다고 평가했다.

비스와나탄은 “AI를 단순한 목적이 아닌 수단으로 이해하고, 그 안에서 기회를 발굴하는 기술 리더들이 있다”라며 “이들은 ‘AI가 과거 해결하지 못했던 고객 대응 방식이나 공급망 관리, 제품 설계 영역에서 새로운 가치를 만들어낼 수 있는가’라는 질문을 던지고, 그 해답을 AI 중심으로 찾고 있다”고 말했다.

기업 보안 강화도 핵심 과제

데이터 보호와 사이버 복구 기업 루브릭의 CIO 겸 최고데이터책임자(CDO) 아제이 사블록에게 내려진 기업 전략 역시 이러한 흐름을 반영하고 있다.

사블록은 “CEO의 목표는 비즈니스 운영의 병목을 줄이고 제거하는 것”이라며 “IT에 부여된 목표는 전사 업무 전반에서 효율성과 생산성을 높이는 것”이라고 말했다.

이에 따라 IT 조직은 스스로를 ‘AI 우선 조직’으로 전환하고 있다. 사블록은 “모든 IT 프로세스와 개인 생산성 향상에 AI 중심 사고를 적용해 자원 최적화를 달성하는 것이 목표”라고 설명했다.

사블록은 엔지니어링, 아키텍처, 핀옵스(FinOps), 비즈니스 셀프서비스, 데브옵스(DevOps), 사용자 지원 등 전 영역에 AI 기반 프로세스를 도입하고 있다. 그는 “핵심 AI 플랫폼을 구축하고, 복잡한 활용 사례에 대해서는 IT의 AI 엔지니어링 조직과 협력해 사용자들이 이를 효과적으로 활용할 수 있도록 지원하고 있다”고 덧붙였다.

또 다른 핵심 과제는 보안 강화다. 사블록은 “모든 식별된 위험과 취약점을 효율적으로 해결하고, 데이터센터와 클라우드, 네트워크 전반의 인프라를 보안 중심으로 재설계하고 있다”고 말했다.

실제로 많은 CEO가 같은 우선순위를 공유하고 있다. ‘2026년 CIO 현황 조사’에서도 IT 및 데이터 보안 강화는 기업 리스크를 줄이기 위한 두 번째 주요 과제로 꼽혔다. 데이터 유출이나 사이버 공격이 가져올 재무적·법적·평판 리스크를 고려하면, 사이버보안이 CEO의 핵심 관심사로 부상한 것은 자연스러운 흐름이다.

PwC의 기업 및 기능 전략 부문 책임자 폴 레인완드는 “AI 도입이 확대되면서 데이터 무결성과 거버넌스, 리스크 관리의 중요성이 더욱 커지고 있다”라며 “CEO들은 신뢰와 회복력, 보안을 핵심 기반으로 삼고 있다”고 말했다.

비스와나탄 역시 사이버보안이 여전히 CEO의 최우선 과제 중 하나로 자리 잡고 있다고 강조했다.

AI·보안 넘어선 추가 우선순위

AI와 보안 외에도 양자컴퓨팅과 같은 차세대 기술이 일부 CEO의 주요 관심사로 떠오르고 있다. 특히 금융, 생명과학, 물류 산업에서는 이미 양자컴퓨팅이 영향을 미치기 시작하면서 관련 논의가 활발해지고 있다.

타타컨설턴시서비스의 샨키 비스와나탄은 “이들 산업의 CEO들은 양자컴퓨팅이 가져올 잠재적 기회에 대해 IT 조직이 적극적으로 설명해주길 기대하고 있다”고 말했다.

또한 그는 CEO들이 CIO에게 최적화와 현대화를 우선 과제로 요구하고 있다고 설명했다. 이를 통해 절감된 비용을 신기술 투자로 전환할 수 있기 때문이다.

‘2026년 CIO 현황 조사’에서 나타난 IT 관련 CEO의 상위 5대 과제를 보면, IT와 비즈니스 간 협업 강화, 고객 경험 개선, 디지털 비즈니스 및 디지털 전환 주도 등이 포함된다.

PwC의 폴 레인완드는 이러한 흐름이 현장에서 확인되는 것과 일치한다고 말했다.

레인완드는 “CEO들은 IT가 부서별로 분절된 방식이 아니라, 데이터와 워크플로, 의사결정을 조직 전반에 연결해 운영 모델을 전사적으로 혁신하길 원한다”라며 “파일럿 수준이 아닌 핵심 운영 프로세스에 실제로 적용하는 것이 중요하다”고 강조했다.

그는 이러한 요구의 배경으로 기업 경쟁 방식의 근본적인 변화와 지속 가능한 성장 확보의 어려움을 꼽았다.

이어 “CEO들은 기술이 고객 참여 확대, 인사이트 고도화, 보다 명확한 혁신 전략 수립을 지원하고, 나아가 새로운 수익 창출 채널을 여는 핵심 수단이 되길 기대하고 있다”고 덧붙였다.

IDC의 다니엘 사로프에 따르면, CIO에 대한 평가는 점점 이러한 기대를 실제로 얼마나 실현하는지에 초점이 맞춰지고 있다. IDC 데이터에 따르면, CIO 성과 지표에서 ‘매출 창출’은 단 1년 만에 6위에서 3위로 상승했다.

사로프는 “일부 CIO는 이제 단순 운영 성과가 아니라 비즈니스 성과를 기준으로 평가받고 있거나, 스스로를 그렇게 평가하기 시작했다”고 말했다.
dl-ciokorea@foundryco.com