CIO가 조심해야 할 IT 현대화의 8가지 위험 요소

클라우드 마이그레이션과 디지털 혁신에 이어 AI 도입까지 본격화되면서 CIO에게 IT 현대화는 더 이상 미룰 수 없는 핵심 과제가 됐다.

하지만 업계 조사 결과를 보면 레거시 기술을 전면 개편하려는 수요가 계속 증가하고 있음에도 불구하고, 많은 현대화 프로젝트가 기대했던 성과를 내지 못하거나 예산을 초과하는 문제를 겪고 있는 것으로 나타났다.

이에 CIO와 기업 기술 리더, 업계 자문가들은 현대화 과정에서 자주 발생하는 대표적인 함정과 이를 피하기 위한 방안을 제시했다.

1. 레거시 시스템 위에 신기술만 덧붙이는 것

158년 역사를 가진 보험 기업 메트라이프(MetLife)에서 글로벌 기술·운영 부문 총괄 부사장(EVP)으로 IT 현대화를 이끌어 온 빌 파파스는 CIO가 반드시 피해야 할 실수로 “노후화되고 지나치게 복잡한 레거시 시스템 위에 새로운 기술을 계속 쌓아 올리는 것”을 꼽았다.

파파스는 “현대화는 최신 도구를 가장 먼저 도입하기 위한 경쟁이 아니라 기업 가치를 창출하기 위한 체계적인 노력”이라고 설명했다.

대부분의 경우 AI를 비롯한 신기술은 기존 인프라에 단순히 추가하는 방식만으로는 효과를 내기 어렵다.

그는 “이러한 접근은 혁신을 촉진하기보다 확장성과 통합성이 부족한 고비용 솔루션을 양산하는 결과로 이어질 수 있다”며 “여기에 보안 및 규제 준수 위험까지 더해져 기업이 보안 침해나 규제 위반에 노출될 가능성도 커진다”고 말했다.

대신 CIO는 데이터 기반을 강화하고 레거시 시스템을 단순화하며 IT 이니셔티브를 비즈니스 목표와 고객 성과에 연결하는 것부터 시작해야 한다고 강조했다.

파파스는 “단순화와 보안, 전략적 정렬에 집중하면 CIO는 낡은 기술이 만든 함정을 피하면서 혁신을 실현할 수 있다”고 말했다.

2. 조직 문화와 리더십 정렬을 간과하는 것

IT 솔루션 기업 이플러스(ePlus)의 CIO 더그 킹은 부서별로 분절된 방식의 현대화 접근이 실패로 이어질 수 있다고 경고했다. 조직 전체가 공유하는 혁신 비전을 향해 나아가기 위해 필요한 문화적 변화와 리더십 전환을 간과하기 쉽기 때문이다.

이 경우 현대화는 조직 전체에 이익을 주는 일관된 혁신 과정이 아니라, 서로 연결되지 않은 개별 프로젝트의 집합으로 전락할 위험이 있다.

킹은 “조직 내 정렬을 소홀히 하면 자원 낭비로 이어질 수 있으며, 투자 역시 의미 있는 비즈니스 가치를 창출하지 못한 채 기대에 미치지 못할 가능성이 크다”고 말했다.

그는 CIO가 다양한 부문의 리더를 적극적으로 참여시키고 의사결정 권한과 책임을 명확히 하며, 비즈니스 혁신의 필요성과 방향성을 지속적으로 공유해야 한다고 조언했다.

킹은 “CIO는 신뢰 구축과 조직 정렬을 전략의 핵심 요소로 삼아야 한다”며 “모든 팀이 더 큰 비전을 이해하고 이를 향해 함께 움직일 수 있도록 해야 한다”고 설명했다.

무엇보다 조직은 현대화를 통해 달성하려는 목표가 무엇인지 명확히 정의하고, 왜 현대화를 추진하는지에 대한 본질적인 목적을 잃지 않아야 한다고 강조했다.

킹은 “현대화는 조직이 한 번 통과하는 과정이 아니라 지속적으로 이어지는 여정”이라고 말했다.

3. 클라우드 마이그레이션을 최종 목표로 여기는 것

많은 기업은 애플리케이션을 클라우드로 이전하면 현대화가 성공했다고 판단한다. 하지만 액센추어(Accenture) 클라우드 퍼스트(Cloud First) 글로벌 총괄 앤디 테이는 이러한 인식이 오히려 현대화의 속도를 늦출 수 있다고 경고했다.

테이는 “클라우드 마이그레이션은 결승선이 아니라 출발선”이라고 말했다.

아키텍처와 데이터, 운영 모델, 업무 방식 전반에 걸친 지속적인 현대화가 뒤따르지 않으면 클라우드 플랫폼은 장기적인 비즈니스 가치를 제공하거나 AI 기반 혁신을 지원하는 데 한계를 드러낼 수 있다.

그는 “선도 기업은 클라우드 이전과 현대화를 동시에 추진하며, 클라우드를 단순한 IT 프로젝트가 아닌 비즈니스 혁신을 위한 기반으로 활용한다”고 설명했다.

또한 CIO는 클라우드를 일회성 이전 프로젝트가 아니라 자동화와 보안 중심 설계(Security by Design), 비용 거버넌스, AI 기반 운영을 통해 지속적으로 발전시켜야 하는 살아 있는 플랫폼으로 바라봐야 한다고 강조했다.

4. AI 도입 과정에서 클라우드의 실수를 반복하는 것

기업과 CIO는 AI 도입을 서둘러야 한다는 강한 압박을 받고 있지만, 속도가 보안보다 우선되어서는 안 된다고 블루 맨티스(Blue Mantis)의 CIO 리처드 에이모스는 지적했다.

에이모스는 “기업의 AI 도입이 빠르게 확산되는 모습을 보면 퍼블릭 클라우드 전환 초기가 떠오른다”고 말했다.

클라우드와 마찬가지로 AI 역시 데이터와 모델, AI 에이전트를 보호하기 위한 강력한 보안 체계가 필요하다.

그는 “복잡한 지식 기반 업무를 자동화하는 에이전틱 AI는 특히 위험 부담이 크다”며 “업무 효율성을 높이는 동시에 공격 표면도 크게 확대하기 때문”이라고 설명했다.

에이모스에 따르면 에이전틱 AI는 엄격한 신원 및 데이터 접근 관리 체계를 요구한다. AI 에이전트를 독립적인 디지털 신원으로 간주하고, 최소 권한 원칙에 따라 업무 범위와 기간을 제한하며 지속적으로 모니터링해야 한다는 것이다.

그는 “이보다 느슨한 관리 방식은 불필요한 위험을 초래한다”며 “재무, 법무, 고객 영향과 관련된 민감한 업무에는 반드시 사람의 검증 절차가 포함돼야 한다”고 말했다.

또한 데이터 난독화와 암호화, 데이터 수명주기 관리, 공급업체 감독 체계 등 강력한 데이터 보안 및 개인정보 보호 통제를 소홀히 해서는 안 된다고 강조했다. 특히 규제 산업에서는 이러한 요소가 더욱 중요하다.

프롬프트 인젝션 공격과 오용을 방지하기 위해 다중 계층 프롬프트 설계, 입력·출력 필터링, 도구 또는 API 호출 전 명시적 권한 승인 절차를 적용하는 것도 권장했다.

에이모스는 조직 내 여러 부서가 참여하는 AI 거버넌스 조직을 구축해 에이전틱 AI를 규제 및 거버넌스 기준과 연계하는 것이 모범 사례라고 설명했다. 이를 통해 현재와 미래의 규제 요구사항을 충족할 수 있다는 것이다.

그는 “에이전틱 AI는 혁신적인 잠재력을 갖고 있지만, 그 혜택은 강력한 보안과 거버넌스가 뒷받침될 때만 실현될 수 있다”고 말했다.

5. 데이터 품질이라는 기반을 간과하는 것

IT 자산·비용관리 기업 플렉세라(Flexera)의 CIO 겸 CISO인 코널 갤러거는 많은 CIO가 현대화를 새로운 플랫폼 도입과 클라우드 마이그레이션, 최신 기술 적용 중심으로 바라보면서 정작 가장 중요한 기반 요소를 놓치고 있다고 지적했다. 바로 데이터 품질과 데이터 통합 수준이다.

갤러거는 “정제되고 유기적으로 연결된 데이터 없이 추진하는 현대화는 결국 실패할 수밖에 없다”며 “부실한 데이터 거버넌스와 파편화된 시스템은 분석과 자동화, 의사결정을 저해하는 사각지대를 만든다”고 설명했다.

문제는 많은 CIO가 시스템을 업그레이드하면 데이터 무결성도 자연스럽게 개선될 것이라고 생각한다는 점이다. 하지만 통합이 우선되지 않은 상태에서 현대화를 추진하면 복잡성은 오히려 더욱 커질 수 있다.

그는 “사일로를 줄이는 대신 조직은 더 많은 사일로를 쌓아 올리는 결과를 맞게 될 수 있다”고 말했다.

고품질의 통합 데이터를 필요로 하는 AI 확산은 이러한 문제를 더욱 악화시킬 수 있다. 데이터 품질이 뒷받침되지 않으면 잘못된 인사이트가 생성되고 AI 결과에 대한 신뢰도도 떨어질 수 있기 때문이다.

갤러거는 “기업들이 올해 AI 도입을 빠르게 확대하고 있으며 앞으로도 이를 더욱 적극적으로 추진할 계획인 만큼, 데이터 품질 문제는 훨씬 더 큰 쟁점이 될 것”이라고 말했다.

그는 CIO가 모든 현대화 프로젝트를 데이터 거버넌스 정책 수립에서 시작하고, 다양한 벤더와 플랫폼에 흩어진 데이터를 통합하는 방안을 우선 검토해야 한다고 조언했다.

또 데이터 전략은 비즈니스 성과와 직접 연결돼야 하며, 데이터 활용성이 혁신 프로젝트의 핵심 성공 지표가 되어야 한다고 강조했다.

갤러거는 “팀이 데이터를 쉽게 활용할 수 없고 신뢰하지도 못한다면 현대화 투자수익률(ROI)을 달성하기는 어려울 것”이라고 말했다.

무엇보다 데이터는 하나의 제품처럼 관리돼야 하며, 사업 부문과 보안 조직, IT 부서가 함께 참여하는 전사적 접근이 필요하다고 설명했다.

그는 “현대화는 시스템을 업그레이드했다고 끝나는 것이 아니라 정확하고 시의적절하며 실행 가능한 인사이트를 제공할 수 있을 때 비로소 완성된다”고 말했다.

6. 레거시 기술이 남긴 ‘감정적 부채’를 무시하는 것

소프트웨어 개발 기업 플랜 A 테크놀로지스(Plan A Technologies)의 최고 디지털 정보 책임자(CDIO) 존 보센은 많은 조직이 기술 부채에 대해서는 이야기하면서도 그 과정에서 쌓인 감정적 손상은 외면한다고 지적했다.

보센은 “사람들은 기술 부채를 이야기하는 것을 좋아하지만, 그와 함께 쌓인 감정적 상처는 편리하게 무시하거나 회피한다”고 말했다.

이는 많은 조직에서 반복적으로 나타나는 익숙한 장면이다. 수년간 이어진 예고 없는 변화와 실패한 프로젝트, 지켜지지 않은 약속은 조직 구성원 사이에 조용한 냉소주의를 남긴다.

그는 “경영진이 대대적인 현대화 계획을 발표해도 속으로는 아무도 믿지 않는 경우가 많다”며 “비록 누구도 입 밖으로 말하지 않더라도 그런 의심은 실제로 존재한다”고 설명했다.

보센은 현대화 성공 가능성을 높이기 위한 방법으로 다소 역설적으로 들릴 수 있는 ‘미래 사후 분석(Future Postmortem)’ 기법을 추천했다.

그는 “팀을 한자리에 모은 뒤 현대화 프로젝트가 실패했다고 가정하고, 2년 뒤 날짜가 적힌 사후 분석 보고서를 작성해 보라”며 “그 다음 ‘왜 실패했는가’, ‘누가 피해를 입었는가’, ‘무엇이 잘못됐는가’를 질문해야 한다”고 말했다.

이어 “미래 사후 분석은 일반적인 회의에서는 누구도 꺼내지 않는 위험 요소를 드러내며, 훨씬 더 솔직하고 현실적인 로드맵을 만드는 데 도움이 된다”고 설명했다.

7. 현대화를 비즈니스 가치와 연결하지 않는 것

기술 비즈니스 관리 협의회(TBM Council) 전무이사이자 전 내셔널 그리드(National Grid) 미국 CIO인 매슈 과리니는 기업들이 AI와 클라우드, 자동화에 막대한 투자를 쏟아붓고 있음에도 실패율은 여전히 높은 수준에 머물고 있다고 지적했다.

과리니는 맥킨지 조사 결과를 인용하며 “수년간의 노력과 수조 달러 규모의 투자에도 불구하고 2025년 디지털 혁신 프로젝트의 70%가 목표 달성에 실패했다”고 설명했다.

그는 “IT 현대화의 가장 큰 과제 중 하나는 기업이 IT 투자에서 실질적인 가치를 창출하는 데 어려움을 겪고 있다는 점”이라고 말했다.

또한 기업 기술 환경이 갈수록 복잡해지고 실패 가능성 역시 현실적인 위협으로 떠오르면서 CEO와 CFO는 신규 투자에 신중한 태도를 보이고 있다고 분석했다.

과리니는 CIO가 기술 투자와 비즈니스 성과를 직접 연결해야 한다고 강조했다. 매출 증가와 생산성 향상, 혁신 촉진, 지속가능성 개선 등 구체적인 경영 성과와 기술 자원을 연계해야 한다는 것이다.

그는 “현대화 압박이 커지는 상황에서 CIO는 기술을 활용해 IT 투자 가치를 입증해야 한다”며 “하지만 많은 기술 리더는 고객과 직원에게 가치를 제공한다는 현대화의 본래 목적보다 기술 혁신 자체에 지나치게 집중하는 경향이 있다”고 말했다.

8. 현대화를 ‘한 번에 갈아엎기’로 접근하는 것

현대화를 한 번에 모두 완료해야 한다고 생각하는 것 역시 실패로 이어질 수 있는 대표적인 함정이다.

플랜 A 테크놀로지의 보센은 많은 조직이 현대화를 극단적인 관점에서 바라본다고 지적했다.

보센은 “사람들은 현대화를 이야기할 때 모든 것을 한꺼번에 교체하거나, 기존 시스템과 신규 시스템이 서로 충돌하는 두 개의 별도 환경을 유지하는 모습을 떠올리는 경우가 많다”고 말했다.

하지만 그는 레거시 시스템과 현대적 시스템이 각각의 역할과 목적을 갖고 공존할 수 있는 영역을 의도적으로 설계해야 한다고 조언했다.

보센은 “이러한 접근은 업무 중단을 최소화하고 비용을 통제할 수 있으며, 조직이 실제로 수용할 수 있는 속도로 변화를 추진할 수 있게 한다”며 “겉으로 보이는 것보다 훨씬 복잡한 현대화 과정을 다루는 데 있어 보다 현실적이고 인간적인 방법”이라고 설명했다.

그는 IT 환경을 기계가 아닌 도시에 비유했다. 보센은 “어떤 지역은 새로 개발되고, 어떤 지역은 역사적 가치를 유지하며, 또 다른 곳에서는 항상 공사가 진행되고 있다”며 “CIO의 과제는 모든 것을 한 번에 재건하는 것이 아니라 가장 큰 효과를 낼 수 있는 영역부터 우선적으로 개선하는 것”이라고 말했다.

이어 “이를 위한 방법은 간단하다”며 “문제와 가장 가까운 곳에 있는 사람들의 이야기에 귀를 기울이고, 영향력이 큰 과제에 우선순위를 부여해야 한다. 그것이 실질적인 변화를 만드는 길”이라고 강조했다.
dl-ciokorea@foundryco.com