“기술 부채부터 섀도우 IT, 학습 부재까지” 비즈니스 가치를 죽이는 IT의 7가지 패턴

대부분 CIO는 자신의 역할이 시스템 가동률 같은 운영 지표보다 비즈니스 가치를 제공하는 일이라는 점을 이미 이해하고 있다. 2년마다 새로운 혁신의 기회가 등장하고 있으며, 이제 문제는 IT가 일관되게 가치를 제공할 수 있는지이다.

애자일, 데브옵스, ITSM 프랙티스는 딜리버리 역량과 서비스 역량을 개선하는 것을 목표로 한다. 각 배포가 성공할수록 이해관계자의 기대치는 더 높아진다. 하지만, 가치 제공을 일관되게 유지하기는 쉽지 않으며, 직원 이직 관리, 기대에 못 미치는 기술 파트너 대응, 보안 우선순위 균형, 기술 부채 해결 등의 과제가 산재해 있다.

CIO는 생성형 AI로 비즈니스 가치를 만들어내라는 압박을 받고 있다. 최고 경영진은 실험을 넘어 AI 투자에서 단기적인 ROI와 장기적인 전략적 가치를 기대하고 있다. 필자는 최근 생성형 AI 시대의 IT 조직 재구상과 세계 수준의 IT는 어떤 모습이어야 하는지 제시한 바 있다. 이와 함께 CIO는 IT의 비즈니스 가치를 스스로 죽이는 프랙티스와 행위도 경계해야 한다. 전문가들이 지적하는 ‘하지 말아야 할 일’ 7가지를 정리했다.

1. 빅뱅 방식 배포를 목표로 설정한다

AI에 대한 과대포장은 생성형 AI 역량 제공에 대한 경영진의 기대치를 끌어올렸다. 적지 않은 기업의 경영진이 자율 운영, 고도화한 에이전틱 AI 기능, 개인화된 AI 기반 고객 여정까지 목표로 삼고 있다.

성과가 낮은 IT 부서는 요구가 큰 이해관계자에게 휘둘리기 쉽다. 반면에 제품 기반 IT 부서는 빅뱅 방식 배포를 약속하지 않으며, 실험과 최소기능제품(MVP)을 우선시하고, 점진적으로 개선하는 기능을 애자일 방식으로 제공한다는 원칙을 갖추고 있다.

베린트(Verint)의 고객 AI 혁신 담당 글로벌 부사장 라지 발라순다람은 “디지털 전환 이니셔티브를 계획하고 실행할 때 기업은 작은 규모로 시작해 중단 없이 확장해야 한다”라고 강조했다. 또, “핵심 목표는 몇 년짜리 프로젝트를 기다리기보다 측정 가능한 성과를 빠르게 실현하는 데 있어야 한다”라고 덧붙였다.

권고 사항. 이해관계자를 스프린트 리뷰에 초대하고 자주 브레인스토밍 세션을 자주 진행하며, 애자일 딜리버리 방식으로 더 쉽게 협력관계를 구축할 수 있다.

2. 배포 계획 없이 AI PoC를 추진한다

최상위 SaaS 및 보안 서비스 업체는 워크플로우를 강화하는 AI 에이전트를 출시하고 있다. CIO는 어떤 기능이 가치를 제공하는지, 데이터 품질 개선이 필요한 지점은 어디인지, 롤아웃을 어떻게 확장할지 이해하기 위해 실험이 필요하다.

하지만 많은 IT 부서가 이런 실험에서 최종 사용자와 직접 협업하지 않는다. 전체 배포에 필요한 사항을 담은 애자일 계획을 충분히 공유하지 않는 경우도 많다. 결과는 이해관계자 기대치 미충족 또는 프로덕션까지 도달하지 못한 PoC의 난립으로 이어진다.

에이오닥스(AODocs) 창업자 겸 CEO 스테판 돈제는 “많은 팀이 몇 주 만에 번쩍이는 파일럿을 공개하는 경우가 흔한데, 이는 AI가 단순하고 즉각적이라는 인식을 비즈니스 부서에 심어준다”라고 지적했다. 또, “그 뒤에는 거버넌스가 적용된 데이터 파이프라인 부재, 지식을 최신으로 유지할 계획 부재, 기밀 정보 유출을 막는 통제 부재, 모델 비용 관리 전략 부재 같은 현실을 마주하면서 모든 일이 느려진다”라고 덧붙였다.

파일럿에는 명확한 목표가 필요하며, 팀은 방향 전환이나 부진한 실험의 종료 시점을 고려해야 한다. 성공적으로 목표에 도달한다면, 더 많은 데이터, 사용자, 사용례로 파일럿을 확장하는 방안을 마련해야 한다.

데이터이쿠(Dataiku) AI 전략 책임자 커트 뮈멜은 IT 부서가 파일럿 프로젝트의 성공을 AI 에이전트가 프로덕션에서도 작동한다는 증거로 취급하는 것이 실수라고 지적했다. 뮈멜은 “파일럿은 데이터셋이 작고, 사용자가 관대하며, 문제가 터질 때 인간이 감독하는 등 실제 제약이 없는 환경에서 돌아가기 때문에 성공한다”라고 설명했다.

권고 사항. IT는 PoC의 성공 기준을 정의하는 문서를 이해관계자와 함께 작성하고, 애자일 방법론을 적용해 PoC와 여러 파일럿 단계를 관리해야 한다. 이런 원칙은 이해관계자가 여정에 함께하도록 만들고, 실험이 배포 목표 중 하나라는 점을 명확히 한다.

3. 채택이 아니라 배포에만 집중한다

반복적 배포에 대한 조직의 동의를 확보하는 일은 일관된 비즈니스 가치 제공에 필요하지만 충분조건은 아니다. 너무 많은 데브옵스 및 데이터 사이언스팀이 배포가 일정대로 진행되고 목표 범위를 달성하면 “일을 잘 끝냈다”라고 생각한다. 하지만 이런 인식은 IT의 변화관리 책임을 간과하는 것이며, 특히 AI 역량은 부서 운영 방식을 크게 바꿀 수 있다는 점에서 주의가 필요하다.

사리타사(Saritasa) 창업자 겸 CEO 닉 프로엘리치는 “IT 부서는 숙련도가 높지만 IT 구성원은 구축한 제품의 최종 사용자인 경우가 드물고, 실제 사용자로부터 충분한 피드백을 받는 경우도 드물다”라고 지적했다. 프로엘리치는 “그 결과, 기능적으로 완벽하지만 아무도 쓰지 않는 솔루션이 될 수 있다”라며, “해결책은 단순하다. 최종 사용자를 초기부터 자주 참여시키고 모든 단계에서 피드백을 듣고, 실제 사용자가 잘 쓸 수 있는 솔루션을 구축해야 한다”라고 조언했다.

권고 사항. CIO가 생성형 AI 시대에 애자일 프랙티스를 재점검해야 하는 이유 중 하나는 프로젝트의 ‘완료(done)’ 상태를 다시 정의해 애자일팀이 채택과 변화관리를 기능 수준의 수용 기준에 포함하도록 만들기 위해서다.

4. 비즈니스 부서의 업무 방식을 처방한다

이사회는 CIO가 AI 전략 거버넌스 모델을 이야기하길 기대한다. 이 모델에는 직원이 AI 역량을 어떻게 실험해야 하는지 설명하는 방법이 포함돼야 한다. 거버넌스는 직원이 사용할 수 있는 AI 도구, 접근 가능한 데이터, 실험의 성공·학습·실패를 어디에 보고해야 하는지를 정의해야 한다.

CIO는 아키텍트, 비즈니스 관계 관리자, 애널리스트를 지정해 이런 실험을 함께 진행해야 한다. 하지만 이런 경계 영역을 넘어 비즈니스 부서의 워크플로우를 처방하는 것은 가치를 손상할 수 있는데, IT 부서는 비즈니스 부서의 운영 목표와 워크플로우 예외를 잘 알지 못하는 경우가 많기 때문이다.

시트릭스 부사장 겸 CTO이자 미래학자인 브라이언 매든은 “진짜 변화는 이제 사람의 실제 업무 방식에서 출발하는 상향식 변화이며, 조직이 정한 방식에서 출발하는 변화가 아니다”라고 말한다.

매든은 “직원 스스로 AI 도구를 도입하기 시작한 순간부터 하향식 장기 로드맵 모델은 깨졌지만, 오늘날에도 대부분 기업은 서드파티 AI를 거버넌스 하에 안전하게 사용할 수 있는 경로를 제공하지 않는다”라고 지적했다. 또한, “승인된 경로가 없어도 사람은 어차피 AI 도구를 사용하며, 관리되지 않은 AI 채택은 전략적 가치를 만들지 못한 채 위험만 키운다”라고 경고했다.

권고 사항. CIO는 하향식 전략을 커뮤니케이션해야 하지만, 디지털 전환이 실패하는 1순위 이유는 IT가 운영의 발전에 상향식 참여가 필요하다는 점을 인정하지 않을 때다. IT 부서는 식스시그마 교육을 받은 프로세스 전문가를 지정해 실험의 파트너로 참여시키고, AI 에이전트와 사람이 협업하는 워크플로우 혁신을 안내하는 가이드 역할을 맡겨야 한다.

5. AI 배포 과정에서 기술 부채를 가속화한다

SaaS 서비스의 난립은 많은 IT 부서가 겪는 문제이며, 비즈니스 부서 리더가 도구를 직접 선택하고 섀도우 IT 프랙티스를 키울 때 특히 심해진다. 기업은 AI를 실험해야 하지만, 통제되지 않은 AI 에이전트를 배포하는 행위는 보안과 컴플라이언스 위험이 된다.

IT/보안 통합 플랫폼 회사 이루(Iru)의 최고 기술 전문가 웰던 도드는 “기업은 특정 문제를 해결하려고 여러 AI 도구를 구매하고 있으며, 앞으로 몇 년 동안 이런 확산으로 인해 IT 부서가 관리해야 할 솔루션 업체 수가 지나치게 늘어날 것”이라고 말했다.

IT 아키텍트는 표준으로 이야기하고 확장 가능한 플랫폼 사용을 핵심 전략으로 밀어야 한다. 이해관계자가 기술과 도구를 처방하려는 압박은 언제나 존재하지만, 아키텍트는 상쇄 요소, 신규 플랫폼 지원 비용, 기술 부채 누적 위험을 알려야 한다.

사이버 위험 평가 플랫폼 코버(Kovrr)의 CEO 야키르 골란은 “AI와 데이터 이니셔티브가 자산 가시성과 시스템이 가치를 만들면서 동시에 노출 위험을 키우는 방식에 대한 공유된 관점없이 추진될 때 IT 조직은 잠재적 영향력을 스스로 제한한다”라고 지적했다. 골란은 “효과적인 거버넌스는 어떤 도구가 존재하는지, 어떤 데이터와 상호작용하는지, 장애가 났을 때 어떤 함의가 있는지를 이해하는 데 달려 있다”라고 설명했다.

권고 사항. 비즈니스 조직이 해법을 처방하려고 할 때가 많지만, 목표한 비즈니스 요구사항을 질문으로 확인하는 책임은 IT에 있다. CIO는 IT 리더가 비즈니스 감각, 용기, 인내를 기르도록 도와 이해관계자의 ‘해법 요구’를 행군 명령으로 받아들이지 말고 목표 중심으로 협업하도록 만들어야 한다.

6. 지속적인 지원 없이 일회성 프로젝트를 수용한다

애자일 팀이 아이디어에서 PoC, 프로덕션 배포, 최종 사용자 채택까지 AI를 성공적으로 통과시키더라도 비즈니스 가치 제공은 그때부터 시작인 경우가 많다. 다음 단계는 피드백 수집, 결과 측정, 성공 기준을 충족하기 위한 반복 개선이다.

애자일 팀은 반복을 원하고, 이해관계자는 기술·데이터·AI 역량의 개선을 원한다. 그렇다면 IT 부서는 왜 레거시 애플리케이션이 너무 많고, 기술 부채가 쌓이며, 최종 사용자는 애플리케이션 현대화를 요구하며 좌절하는 것일까?

AI 기반 운영 최적화 플랫폼 회사 옵키(Opkey) CEO 판카지 고엘은 “많은 IT 팀은 구현 이후를 계획하지 않고, 지속적인 최적화에 필요한 예산을 책정하지 않는다. 지속적인 최적화에는 테스트, 사용자 채택, 데이터 거버넌스, 반복 개선이 포함되는데, 이런 요소가 있어야 쓸만한 시스템이 ‘서랍 속 소프트웨어’가 되는 것을 막을 수 있다”라고 말했다. 또, “가장 강력한 혁신은 IT가 ‘기술 배포’에서 ‘비즈니스와 함께 진화하는 동적 최적화 전환 구축’으로 전환할 때 성공한다”라고 강조했다.

권고 사항. 애자일 PMO의 핵심 책임은 부서 리더와 CFO를 대상으로 재무 거버넌스를 강제하는 일이다. 성공적인 배포와 가치 제공으로 이어지는 이니셔티브에는 업그레이드와 기타 라이프사이클 관리에 필요한 지속적인 예산이 필요하다.

7. 학습 시간을 위한 투자가 부족하다

많은 CIO는 교육 과정 배정, 컨퍼런스 참석, 리더 코칭에 배정하는 예산을 갖고 있다. 하지만 학습 프로그램 구독만으로는 충분하지 않으며, 많은 IT 직원은 교육에 시간을 쓰기 어려울 만큼 압박과 시간 제약을 받고 있다. 또한 직원은 새로운 기술을 실험하고 경험하고 가르치면서 평생학습 습관을 기를 시간이 필요하다.

디지털 전환 서비스 회사 바스(VASS)의 수석 기술 전문가 마이클 파이텔은 “성과가 높은 팀은 장기 계획에 학습을 포함해 역량 성장과 혁신이 함께 일어나도록 만든다”라며, “기술 팀에 주 1시간 학습을 요구하고 자격증에 필요한 시험 응시료를 환급하고, 팀원이 배운 내용을 주변에 공유하는 점심 학습 세션에 인센티브를 제공하라”라고 조언했다.

권고 사항. CIO는 IT가 비즈니스 가치를 죽이는 방식뿐 아니라 리더십이 IT 문화를 죽이는 방식도 돌아봐야 한다. 리더는 IT에 130% 가동률을 무기한 강요할 수 없으며, 프로세스 진화를 가능하게 하는 학습 기회와 학습 기간을 만들어야 한다.

IT의 가치를 스스로 손상하지 않으려면, 결론은 CIO가 강력한 거버넌스와 유연한 운영 모델을 도입하고 채택하는 문제로 귀결된다. 또한 CIO는 이해관계자와 파트너십을 맺어 비즈니스 가치를 제공하는 방법을 코칭하는 동시에 거버넌스, 운영 원칙, 협업 책임에서 양보할 수 없는 기준을 세우고 실행해야 한다.
dl-ciokorea@fondryco.com