“기술 관리자에서 업무 설계자로” AI 에이전트 확산으로 CIO 역할 중심 이동

CIO가 사람과 AI 에이전트로 구성된 하이브리드팀을 이끌고, 거버넌스·책임·신뢰를 유지한 채 혁신까지 추진하면서 역할의 중심축이 ‘기술 운영’에서 더 멀어지고 있다. 다만 책임 범위는 빠르게 넓어지는 반면, CIO에 대한 인식과 기술은 그렇게 빠르게 바뀌지 않는다.

몇 년 전만 해도 ‘AI 에이전트’라는 용어는 대부분 CIO에게 낯설었다. 학계 논문 일부에만 등장했고, 실제 비즈니스 현장과는 거리가 있었다. 그러나 이제 AI 에이전트는 기업 IT의 구성 요소로 빠르게 편입되고 있다. 사람과 자율 시스템이 공존하는 새로운 업무 모델이 자리 잡으면서 CIO 역시 이에 맞춘 변화가 불가피해졌다.

도입 속도도 빨라지고 있다. 옵저버빌리티 소프트웨어 기업 다이나트레이스(Dynatrace)의 ‘Pulse of Agentic AI 2026’ 보고서에 따르면, 전체 조직의 26%는 이미 11개 이상의 에이전트 프로젝트를 진행 중이다. 이들 프로젝트의 약 절반은 POC나 파일럿 단계에 머물러 있지만, 실험을 넘어 확산 배포로 넘어간 기업도 늘고 있다. AI 에이전트는 주로 IT 운영과 데브옵스 영역에서 활용되고 있으며, 소프트웨어 엔지니어링과 고객 지원으로도 적용 범위가 확대되는 추세다.

카네기멜론대 소프트웨어공학연구소(SEI)의 AI/ML 연구 과학자 토머스 서번 본 데이비어는 “현재 대부분의 에이전트는 API를 통해 도구·시스템·데이터에 접근할 수 있도록 확장한 LLM이며, 권한은 통제된 형태로 부여된다”라며, “효과적인 도입은 기술 그 자체보다 IT팀과 함께 수립하는 명확한 거버넌스와 접근 전략에 좌우된다”라고 설명했다.

결국 CIO에게 요구되는 책임은 더 커질 전망이다. 회계 서비스 기업 위스(Wiss)의 CIO 흐리시케시 피파디팔리는 “CIO 역할은 시스템 소유자에서 ‘인력 오케스트레이터’로 진화하고 있다”라며, “앞으로 CIO는 사람·에이전트·솔루션 업체로 구성된 하이브리드팀을 설계하는 책임이 커질 것”이라고 전망했다.

CIO에게는 기회이기도 하지만, 동시에 복잡한 과제를 동반한다. CIO는 AI 에이전트를 언제·어떻게 투입할지, 어떤 방식으로 감독할지, 자율성과 책임을 어떻게 균형 있게 배치할지까지 더 정교하게 판단해야 한다. AI 에이전트가 일상 업무에서 더 적극적인 역할을 맡을수록 이런 고민은 피할 수 없다.

AI 에이전트에 적합한 업무의 선정

1년 전만 해도 기업은 ‘자동화가 가능해 보이는 곳’이라면 어디든 에이전트를 시험해보려는 분위기가 강했다. 하지만 에이전트가 조직 전반으로 퍼지면서, CIO는 이제 ‘가치를 창출하는 지점’에 집중하는 전략적 접근이 필요해졌다.

IT 서비스 기업 리미니스트리트(Rimini Street)의 글로벌 CIO 조 로캔드로는 “에이전틱 AI의 현재 ‘스위트 스폿’은 여러 시스템을 가로지르는 반복 가능한 프로세스를 자동화하는 것”이라며, 다양한 소스에서 데이터를 끌어오고 수작업 단계를 자동화해 워크플로우를 간소화하면 일상적 업무의 노력을 크게 줄일 수 있다고 설명했다.

뉴타닉스(Nutanix)의 CAIO 데보 두타는 “엔터프라이즈 맥락을 많이 요구하는 반복 업무가 AI가 강점을 보일 수 있는 영역”이라며, “파편화된 정보를 모아야 하는 심층 리서치 역시 사람에게 큰 노력이 드는 만큼, 에이전트가 적합하다”라고 덧붙였다.

에이전트 적용 여부를 판단할 때는 명확한 기준이 필요하다. 피파디팔리는 “첫째, 입력·출력·성공 기준이 명확한 ‘경계가 분명한’ 업무여야 한다. 둘째, 리스크 수준이 관리 가능해야 하는데, 최종 의사결정이나 규제 책임이 걸린 업무보다는 자문·준비 성격의 업무가 더 적합하다. 마지막으로 해당 업무가 사람의 직관·판단·관계 맥락보다 속도·규모·패턴 인식의 이점이 필요한 업무이다”라고 제안했다. 이어 “예외 처리가 잦거나 이해관계자 판단이 미묘하게 갈리거나, 도메인 책임이 깊게 요구되는 일이라면 AI의 지원을 받되 사람 중심으로 운영하고, 전면 에이전트 주도 방식은 피한다”라고 덧붙였다.

일반적으로 에이전트에 적합한 업무는 몇 가지 공통점이 있다. 수작업 부담이 크고, AI가 사람의 판단을 대체하기보다는 보조하는 수준에서 의사결정 리스크가 낮으며, 여러 사람·팀·프로세스에 걸쳐 가치를 제공하고, 활용 데이터의 민감도가 높지 않은 경우다.

실험을 통해 CIO는 AI가 어떻게 작동하는지, 강점이 어디에 있는지 체득할 수 있다. 소프트웨어 기업 오브리오(Obrio)의 CTO 안톤 보돌라즈키는 “리서치나 대안 탐색처럼 ‘탐구형’ 업무라면 보통 AI부터 시작한다”라며, “그것만으로 충분하지 않으면 사람이 수동으로 개입한다”라고 말했다.

AI 에이전트의 업무 생산성 측정

AI 에이전트의 생산성을 평가할 때, 기존 IT 지표만으로는 전체 그림을 담기 어렵다. 비용만 보면 가치의 중요한 차원을 놓치기 쉽다. 결과의 신뢰성, 그리고 사람이 확보하게 되는 여력 같은 요소를 함께 봐야 한다.

피파디팔리는 “AI 에이전트를 비용 절감만으로 측정하기보다 처리 시간 단축, 처리량, 오류율, 그리고 고부가 업무로 전환할 수 있는 여력 확보를 함께 본다”라고 설명했다. 예를 들어, 에이전트가 작업 시간을 ‘몇 시간’에서 ‘몇 분’으로 줄이고, 숙련 인력이 분석이나 고객 대응 같은 업무에 집중할 수 있게 만들며, 결과 정확도도 높다면 의미 있는 ROI라는 것이다.

속도만 따지는 것도 위험하다. 빨라져도 오류가 증가하거나 리스크를 키우거나, 사람의 후속 재작업을 유발한다면 성과로 보기 어렵다. 그래서 정확성과 신뢰성은 에이전트 성능 평가의 중심에 있어야 한다.

다만 생산성과 ROI 측정은 단순하지 않다. 에이전트가 사람을 ‘대체’하기보다는 ‘강화’하는 도구로 작동하는 경우가 많아, 무엇이 에이전트의 기여이고 무엇이 사람의 산출물인지 경계가 흐려지기 때문이다.

앱 개발사 맥포(MacPaw)의 IT 총괄 맥스 스투칼렌코는 시간 절감 기준으로 “사용례당 약 50% 수준이면 괜찮은 임계치다. 시스템이 성숙하면 품질, 채택, 확장성 지표 등 더 구조화된 지표를 도입할 계획”이라고 밝혔다.

소프트웨어 기업 인텔리아스(Intellias)의 IT·총무 부문 VP 올렉시 레셰트니악도 “프로젝트 초기에 ROI를 확정적으로 선언하는 것은 경계해야 한다”라고 지적하며, “초기 성과는 착시일 수 있다. 첫 몇 주는 보통 튜닝과 안정화 구간이어서, 초기 결과는 ‘증거’가 아니라 ‘신호’로 본다”라고 덧붙였다.

CIO가 직면한 핵심 과제

새 기술이 늘 그렇듯, AI 에이전트는 기대와 복잡성을 동시에 가져오며 이미 부담이 큰 CIO 역할에 새로운 층위를 더하고 있다. CIO는 거버넌스, 리스크, 인재, 조직 변화까지 함께 고민해야 한다. 동시에 ‘경쟁우위를 약속하는’ 새로운 AI 도구들이 끊임없이 쏟아지는 환경에 놓여 있다.

로캔드로는 “기술과 소프트웨어의 변화 속도가 너무 빠르다 보니, CIO가 올바른 플랫폼과 도구를 선택하는 것 자체가 도전”이라며 “AI가 소프트웨어 솔루션에 계속 내장되는 만큼, 무엇을 내장형으로 가져가고 무엇을 커스텀 AI로 갈지 판단하는 것도 과제”라고 말했다.

도구의 확산은 아키텍처 일관성과 기업 차원의 통합 감독을 더 어렵게 만든다. 그만큼 복잡성과 리스크가 커진다. 두타 역시 이런 흐름 속에서 “직접 구축 vs. 구매(build vs. buy) 의사결정을 내리는 것이 큰 과제 중 하나”라고 짚었다.

AI 에이전트를 배포하고 감독할 때, 거버넌스·책임·신뢰도 빠지지 않는 이슈다. 스위스 엔지니어링 기반 리테일 애널리틱스 기업 카토마이즈(Catomize)의 CTO 테이무라즈 베자시빌리는 “에이전트가 무엇을 할 수 있는지 경계를 명확히 정의하고, 결과에 대한 오너십을 배정하며, 레거시 아키텍처에 통합하고, 기대치와 실제 역량의 간극을 관리하는 일은 모두 세심한 주의가 필요하다”라고 말했다. 이어 “그 결과 CIO 역할은 단순 기술 배포를 넘어, AI 거버넌스 감독, 리스크 관리, 부서 간 정렬을 강화하는 방향으로 이동하고 있다”라고 분석했다.

AI가 일상 업무를 바꿔도, 모든 구성원이 운영 방식을 바꾸는 데 준비돼 있는 것은 아니다. 이런 저항은 CIO의 부담을 더 키운다. 결국 확산을 추진하려면 기술만큼이나 사람과 문화에 집중해야 한다.

스투칼렌코는 “AI 워크숍, 게이미피케이션 등은 꽤 효과가 있지만, 사람들이 일하는 방식을 바꾸고 그 변화를 받아들이도록 만드는 데는 시간과 노력이 든다”라고 덧붙였다.

현장에서 얻은 ‘쓰라린’ 교훈

많은 조직은 다시 기회가 주어진다면 초기 선택을 조금은 다르게 했을 것이라고 말한다. 초창기 에이전트 도입은 호기심이나 속도에 치우친 경우가 많았고, 본질적인 질문이 뒤로 밀리기 쉬웠기 때문이다. 두타는 “경험을 바탕으로 말하자면, 에이전트 유형별 목표와 평가 방식까지 포함해 사전에 잘 계획해야 한다”라고 조언했다.

CIO들의 공통된 메시지는 ‘작게 시작하라’는 것이다. 성공한 팀은 내부 사용례부터 에이전트를 도입해 실제로 무엇이 작동하는지 학습한 뒤, 그다음에 범위를 확장하는 경우가 많았다. 두타는 여기에 아키텍처 유연성의 중요성도 강조했다. 여러 에이전트 벤더를 지원하도록 엔터프라이즈 시스템을 설계하면 특정 공급자에 대한 과도한 의존을 피할 수 있고, 역량 변화, 과금 모델 변화, 규제 요건 변화에 더 민첩하게 대응할 수 있다는 설명이다.

기술 선택을 넘어, ‘책임’은 사후에 붙일 수 있는 요소가 아니라는 점도 현장에서 확인됐다. 베자시빌리는 “명확한 오너십과 거버넌스를 초기에 세워야 하고, 에이전트는 자율 대체재가 아니라 ‘저연차 직원’처럼 다뤄야 한다”라고 말했다.

피드백 루프와 모니터링도 첫날부터 갖춰야 한다. 에이전트가 얼마나 일을 했든 최종 결과물의 책임자는 반드시 사람이어야 한다. 이런 감독은 기술 리더와 비즈니스 리더가 적절히 섞여 함께 검토할 때 효과가 커진다. 베자시빌리는 “돌아보면 보안과 법무 팀을 더 이른 단계에 참여시키고, 실제 사용 패턴을 파악하기 전부터 초기 구현을 과도하게 ‘오버엔지니어링’하는 일은 피했을 것”이라고 덧붙였다.

전문가들은 에이전트 확산이 기술 과제인 동시에 사람 과제라는 점을 강조한다. 결국 올바른 역량과 판단력, 권한을 가진 인력이 있어야 한다는 의미다.

피파디팔리는 “다시 한다면 변화 관리와 교육에 더 일찍 투자했을 것”이라며, “특히 관리자가 AI 주도 업무를 어떻게 감독하는지에 대한 훈련이 필요하다”라고 말했다. 이어 “에이전트를 단순한 애플리케이션이 아니라 ‘인력’의 일부로 대하는 것은, 기술만큼이나 중요한 사고방식의 전환”이라고 강조했다.
dl-ciokorea@foundryco.com