AI 파일럿 88%가 실용화에 실패··· 이면의 역학은?

개념 증명(PoC)은 CIO의 AI 전략에서 핵심적 접근법이다. 크게 투자하지 않고도 AI 사용 사례를 테스트할 수 있는 길을 제시한다. 그러나 기업들이 파일럿 프로젝트에 대한 피로감을 느끼고 있다. 보다 실질적인 결과를 추구하는 방향으로 전환하는 중이다. 실험만으로는 충분하지 않다.

IDC가 레노버와 협력해 수행한 최근 연구에 따르면, 관찰된 POC의 88%가 대규모 배포에 적합하지 않은 것으로 드러났다. IDC는 기업이 진행하는 AI PoC 33개 중 4개만이 생산 단계로 넘어간다고 전했다.

IDC 보고서 저술진은 “많은 Al PoC 가운데 일부만 생산으로 전환되는 현실은 데이터, 프로세스, IT 인프라 측면에서 조직의 준비 수준이 낮다는 것을 의미한다. 오늘날 조직의 절반이 Al을 채택했지만, 대부분은 아직 구현 또는 실험의 초기 단계에 있다. ROI가 불분명하고, Al을 사용할 준비가 된 데이터가 부족하며, 사내 Al 전문 지식이 부족하다는 문제와 씨름하면서 소규모 또는 특정 사용 사례에서 이 기술을 테스트하고 있다”라고 밝혔다.

생성형 AI 분야를 다루는 이들 애널리스트은 공통적인 패턴을 발견하곤 한다. 기업들이 생성형 AI를 활용하려는 강한 욕구를 가지지만, 이 기술을 더 발전한 양상으로 사용하기 어렵게 만드는 다양한 오류에 직면하는 것이다.

또 생성형 AI PoC에 대한 부담 없는 승인 절차가 실험 실패의 증가에 기여하고 있다고 무어 인사이트 & 스트래티지의 부사장 겸 수석 분석가 제이슨 앤더슨은 전했다. 그는 “생성형 AI PoC는 다른 기술에 비해 훨씬 더 쉽게 승인을 받고 있다“라며, 이 기술을 가급적 더 많이 실험하라는 CEO와 이사회의 압력 때문이라고 전했다.

“다음과 같이 말하는 식이다. ‘더 알고 싶다. 이것이 내 사업에 적용되는지, 어떻게 적용되는지 확인하겠다. [PoC] 프로젝트에 기꺼이 서명하겠다.’ 이런 태도로 인해 수많은 PoC들이 추진되는 현상을 목격하고 있다”라고 그는 덧붙였다.

이 트렌드를 활용하여 더 광범위한 기술 계획에 대한 승인을 얻으려는 움직임도 있다. “제대로 된 AI가 아니지만, 특정 계획에 AI 요소를 주입하려고 시도하곤 한다. 생성형 AI 요소를 투입하면 승인을 받을 수 있다고 보기 때문이다”라고 그는 말했다.

ROI 문제

ABI 리서치의 수석 애널리스트인 리스 헤이든도 기업 PoC 승인이 급증하고 있다는 사실을 발견했다고 전했다. 헤이든은 “생성형 AI를 위한 PoC의 기준이 훨씬 낮아졌다”라며, “그 이유 중 하나는 생성형 AI PoC를 개발하는 데 드는 비용이 크게 낮아졌기 때문”이라고 말했다.

기업의 파일럿-생산단계 전환 비율은 각 기업이 ROI를 계산하는 방식에 따라 달라질 수 있다. 특히 AI에 대한 위험 감내 수준이 다른 경우 더욱 그렇다.

헤이든은 “매우 다양할 수 있다. 위험과 그 위험을 수용할 의지, 그리고 잠재적인 정확성 부족에 관한 이슈다. 단 위험 수준은 [비 AI 프로젝트보다] 훨씬 높고, 보상이 위험을 능가하는 경우는 매우 드물다”라고 말했다.

인포-테크 리서치 그룹의 수석 연구 책임자인 브라이언 잭슨은 AI 파일럿의 낮은 생산율에 대해 비교적 긍정적인 입장이다. “PㅐC의 핵심은 실험이다. 처음에 실패하는 것을 두려워하면 안 된다. 그것은 낭비가 아니다. 좋은 교훈을 얻을 수 있다면 실패도 실패가 아니다”라고 말했다.

그러나 IDC는 파일럿 실패율이 높은 근본적인 원인으로 데이터 운영의 부족과 AI 인재 부족을 포함한 체계적인 IT 문제를 지목하면서 기업 정치도 작용하고 있다고 지적했다.

IDC의 그룹 부사장인 애쉬시 나드카니는 “대부분의 AI 관련 이니셔티브는 이사회 차원에서 시작된다. 그리고 이러한 이니셔티브의 상당수가 패닉에서 비롯된다. 이러한 PㅐC는 자금 문제를 가진다. 강력한 비즈니스 사례 때문에 발생하는 사례가 드물다. 내게는 하향식 경제학으로 보인다”라고 말했다.

범람하는 AI 마케팅 캠페인은 이사회와 CEO가 IT 경영진에게 지금 당장 AI로 무언가 하도록 압력을 가하는 원인이 되었다. 나드카니는 “긴박함과 실존적 위협으로 인해 차분하게 ROI를 계산하지 않는다. ROI에 대한 규칙을 선뜻 어기고 있다. 겁에 질려 있다”라고 표현했다.
dl-ciokorea@foundryco.com