2026년 중반에 접어들면서 기업들은 AI 투자에서 가시적인 성과를 일부 확인하기 시작했다. 그러나 동시에 많은 기업이 깨닫고 있는 점은, AI 확산에는 화려한 최첨단 모델이나 최신 벤치마크보다 훨씬 덜 주목받는 요소, 즉 정제되고 상호운용 가능하며 거버넌스가 확보된 데이터가 필요하다는 사실이다.
던앤브래드스트리트의 최신 ‘AI 모멘텀 설문조사’에 따르면, 전체 조직의 97%가 AI 프로젝트를 진행 중이지만, 이를 지원할 데이터가 준비돼 있다고 응답한 비율은 5%에 불과했다.
이는 기업들이 실험 단계를 넘어 실제 운영 단계로 나아가는 과정에서 겪고 있는 AI의 복잡한 현실을 보여준다.
던앤브래드스트리트 최고전략책임자 카예타노 게아-카라스코는 “파일럿이나 개별적인 AI 활용 사례를 시작하는 데 전사적 수준의 AI 준비 데이터는 필수는 아니다”라며 “하지만 미션 크리티컬한 워크플로와 시스템 전반에서 AI를 안정적으로 확장하려면 반드시 필요하다”고 말했다.
초기 성과 가시화…그러나 여전히 ‘불균형’
던앤브래드스트리트(D&B) 보고서에 따르면 2026년 현재 기업들은 AI를 핵심 전략 과제로 인식하며 전면적으로 투자에 나서고 있다. 전체의 67%는 투자 대비 성과의 ‘초기 징후 또는 일부 성과’를 확인했으며, 24%는 ‘광범위하거나 강력한’ 성과를 보고했다.
또한 데이터·분석 기업이 1만 개 기업을 대상으로 조사한 결과, 56%는 향후 12개월 내 AI 투자를 확대할 계획이라고 밝혔다. 약 30%는 AI를 실제 운영 환경으로 확장하고 있으며, 26%는 여러 핵심 프로세스에 걸쳐 AI를 운영 단계에 적용하고 있는 것으로 나타났다.
D&B는 AI 도입이 빠르게 확산되면서 초기 성과를 경험하는 사례가 1년 전보다 늘어났지만, 여전히 성과는 고르게 나타나지 않고 있다고 분석했다. 이와 함께 데이터 준비도에 대한 우려는 2025년보다 “더욱 심화된” 상태라고 지적했다.
이 같은 문제의 배경에는 다양한 요인이 존재한다. 데이터 접근성 문제(50%), 개인정보 및 컴플라이언스 리스크(44%), 데이터 품질 및 무결성 문제(40%)가 주요 원인으로 꼽혔다. 이외에도 시스템 간 통합 부족(38%), 숙련된 AI 인력 부족(37%) 등이 장애 요소로 지목됐다.
특히 우려되는 점은 AI 관련 리스크를 식별하고 완화할 수 있다고 ‘높은 확신’을 가진 기업이 10%에 불과하다는 점이다.
카예타노 게아-카라스코 D&B 최고전략책임자는 “이제 핵심 질문은 기업이 AI를 실험하고 있는지 여부가 아니다”라며 “기업 규모로 AI를 안정적으로 배포할 수 있는 데이터와 인프라를 갖추고 있는지가 중요하다”고 강조했다.
그는 이어 “범용 모델을 활용해 코파일럿, 채팅 인터페이스, 부서 단위 AI 도구를 구축하는 것은 비교적 쉽고, 통제된 환경에서는 인상적인 결과를 얻을 수 있다”고 설명했다. 그러나 “정확성, 책임성, 설명 가능성, 상호운용성, 일관성이 비즈니스 의사결정에 직접 영향을 미치는 실제 운영 환경에 AI를 적용하는 기업은 훨씬 적다”고 지적했다.
온보딩, 컴플라이언스, 리스크 관리, 고객 운영 등과 같은 영역이 이에 해당하며, 게아-카라스코는 “바로 이 지점에서 데이터 준비도가 결정적인 역할을 한다”고 강조했다.
데이터 장벽, 에이전틱 AI로 갈수록 더 커진다
기업들이 코파일럿에서 보다 자율적인 에이전틱 워크플로로 전환할수록 데이터 관련 과제는 더욱 복잡해지고 있다. 카예타노 게아-카라스코는 “대부분의 기업 데이터 환경은 사람 중심의 워크플로를 기준으로 구축됐으며, 기업 전반에서 지속적으로 작동하는 자율형 AI 시스템을 염두에 둔 구조가 아니다”라고 지적했다.
그는 또 AI 시스템이 겉보기에는 일관된 결과를 생성할 수 있지만, 실제 운영에서는 환각(hallucination), 시스템 간 상충된 권고, 컴플라이언스 문제 등으로 인해 신뢰하기 어렵다고 설명했다. 이러한 문제는 모든 기업에 영향을 미치지만, 특히 은행, 보험, 헬스케어, 금융 서비스 등 규제 산업에서는 신뢰성과 감사 가능성이 “타협 불가능한 요소”라는 점에서 더욱 심각하다.
이에 따라 가장 큰 진전을 보이는 조직들은 데이터의 품질, 신뢰성, 거버넌스 확보에 집중하고 있다. 이들은 일관된 식별 체계(아이덴티티 해석)와 데이터 상호운용성, 유지관리 등에 투자해 AI가 정보를 안정적으로 활용하고 실행할 수 있도록 기반을 다지고 있다.
ROI는 ‘데이터 성숙도 높은 영역’에서 먼저 발생
게아-카라스코에 따르면, 기업들은 데이터 환경이 비교적 성숙한 영역에서 AI 투자 대비 효과(ROI)를 먼저 확인하고 있다. 이는 AI를 실제 업무 워크플로에 직접 통합하기 쉬운 환경이기 때문이다.
대표적인 분야로는 영업 인텔리전스, 온보딩, 컴플라이언스 워크플로, 고객 조사, 리스크 분석, 워크플로 자동화, 잠재 고객 발굴, 심사, 공급업체 평가, 기업 검증 등이 꼽힌다.
이러한 ROI는 수작업 조사 감소, 온보딩 및 검토 주기 단축, 운영 일관성 향상, 영업 프로세스 가속화, 직원 의사결정 지원 강화 등의 형태로 나타난다. 그는 “많은 경우 기업들은 AI를 활용해 방대한 정보를 이전보다 훨씬 빠르게 처리하고 종합하도록 지원하고 있다”고 설명했다.
또한 그는 AI가 인간의 의사결정을 완전히 대체하기보다 기존 운영 프로세스를 보완할 때 가장 큰 성과를 낸다고 강조했다. “AI가 직원들의 업무 속도를 높이고 더 나은 의사결정을 지원하며 반복적인 수작업을 줄이는 동시에, 인간이 감독과 최종 승인에 계속 관여하는 구조에서 성과가 나타나고 있다”고 말했다.
데이터 장벽
기업들이 코파일럿에서 보다 자율적인 에이전틱 워크플로로 전환할수록 데이터 관련 과제는 더욱 복잡해지고 있다. 카예타노 게아-카라스코는 “대부분의 기업 데이터 환경은 사람 중심의 워크플로를 기준으로 구축됐으며, 기업 전반에서 지속적으로 작동하는 자율형 AI 시스템을 고려해 설계된 것은 아니다”라고 지적했다.
그는 또 AI 시스템이 겉으로는 일관된 결과를 생성하는 것처럼 보일 수 있지만, 실제 운영에서는 환각(hallucination), 시스템 간 상충되는 권고, 컴플라이언스 문제 등으로 인해 신뢰 확보가 어렵다고 설명했다. 이러한 문제는 모든 기업에 해당되지만, 특히 은행, 보험, 헬스케어, 금융 서비스 등 규제 산업에서는 신뢰성과 감사 가능성이 “타협할 수 없는 요소”라는 점에서 더욱 중요하다.
이에 따라 가장 큰 성과를 내는 조직들은 데이터의 품질, 신뢰성, 거버넌스 확보에 집중하고 있다. 이들은 일관된 아이덴티티 해석 체계와 데이터 상호운용성, 유지관리 등에 투자해 AI가 정보를 안정적으로 활용하고 실행할 수 있도록 기반을 강화하고 있다.
ROI 창출 영역
게아-카라스코에 따르면, 기업들은 데이터 환경이 비교적 성숙한 영역에서 AI 투자 대비 효과(ROI)를 먼저 확인하고 있다. 이는 AI를 실제 업무 워크플로에 직접 통합하기 용이하기 때문이다.
대표적인 분야로는 영업 인텔리전스, 온보딩, 컴플라이언스 워크플로, 고객 조사, 리스크 분석, 워크플로 자동화, 잠재 고객 발굴, 심사, 공급업체 평가, 기업 검증 등이 포함된다.
이러한 ROI는 수작업 조사 감소, 온보딩 및 검토 주기 단축, 운영 일관성 향상, 영업 프로세스 가속화, 직원 의사결정 지원 강화 등의 형태로 나타난다. 그는 “많은 경우 기업들은 AI를 활용해 방대한 정보를 이전보다 훨씬 빠르게 처리하고 종합하도록 지원하고 있다”고 설명했다.
또한 그는 AI가 인간의 의사결정을 완전히 대체하기보다 기존 운영 프로세스를 보완할 때 가장 높은 성과를 낸다고 강조했다. “AI가 직원들의 업무 속도를 높이고 더 나은 의사결정을 지원하며 반복적인 수작업을 줄이는 동시에, 인간이 감독과 최종 승인에 계속 관여하는 구조에서 성과가 나타나고 있다”고 말했다.
dl-ciokorea@foundryco.com
Read More from This Article: AI 도입 97% 시대…“데이터 준비된 기업은 5%뿐”
Source: News