“경영진 생각과 현실은 다르다”··· AI 데이터 준비 수준의 동상이몽

최근 캐피털원(Capital One)이 발표한 AI 준비 수준 조사에 따르면, 비즈니스 리더의 90% 가까이가 자사 데이터 생태계가 AI를 대규모로 구축하고 배포할 준비를 갖췄다고 답했다. 그러나 데이터 과학자, 데이터 아키텍트, 데이터 분석가 등 IT 실무자의 84%는 매일 최소 1시간 이상을 데이터 문제 해결에 할애하고 있다고 응답했다. IT 전문가의 70%는 하루 1~4시간을, 14%는 4시간 이상을 데이터 문제 해결에 쓰고 있는 것으로 나타났다.

공급망 지속가능성 데이터 인사이트 플랫폼인 월드리(Worldly)의 CTO 존 암스트롱은 대부분의 AI 도구 배포에 필요한 데이터 작업에 대해 많은 비즈니스 리더들이 근본적으로 오해하고 있음을 이 조사 결과가 보여준다고 설명했다.

암스트롱은 “AI에 데이터를 많이 던져 넣기만 하면 모든 문제가 해결될 것이라는 관점이 있다. 기술 리더의 역할은 조직에서 무엇이 가능하고 목표 달성에 무엇이 필요한지 교육하는 것”이라고 말했다.

그는 AI의 데이터 관리 요구사항에 대한 오해가 계속되는 상황이 시사하는 바가 크다면서, 다른 IT 리더와 대화해 보면 모두가 AI 도입 압박에 시달리고 있다고 전했다. 암스트롱은 “제대로 하지 않으면 조직이 잘못된 결과를 내놓는 솔루션 세트에 말 그대로 수백만 달러를 지출하게 되기 때문에 매우 중요한 문제”라고 지적했다.

AI 역량에 대한 오해

소프트웨어 아웃소싱 제공업체인 베어스데브(BairesDev)의 CTO 저스티스 에롤린은 이번 조사가 조직 내 인식 차이를 전형적으로 보여준다고 말했다.

에롤린은 “경영진은 파일럿 프로젝트나 발표 자료를 통해 AI의 가능성에 매료된다. 하지만 일상 업무에 적용하는 데 필요한 핵심을 항상 파악하는 것은 아니다. 여기서 마찰이 발생한다”라고 지적했다.

그는 비즈니스 리더의 자신감이 주로 AI 모델이나 알고리즘에 집중된다면서, “데이터 품질, 기존 시스템 통합과 같은 까다로운 기초 작업은 고려하지 않는 경향이 있다”라고 말했다. 성공적인 파일럿 프로젝트나 성과가 좋은 알고리즘이 비즈니스 리더에게 잘못된 희망을 줄 수 있다는 설명이다. 에롤린은 “더 큰 그림을 보면 다른 이야기가 나올 수 있다”라고 덧붙였다.

예를 들어, 에롤린은 바이레스데브의 한 고객사가 AI 프로젝트 일정의 30%를 기존 시스템 통합에 써야 한다는 사실에 큰 충격을 받았다고 언급했다. 이는 많은 기업들이 AI 도입 시 실제로 필요한 기초 작업의 규모와 시간을 과소평가하고 있음을 보여주는 사례다.

AI 프로젝트 전에 데이터 문제를 해결하기 위한 기초 작업은 예상할 수 있지만, 직원들이 매일 수 시간씩 지속적으로 데이터 문제를 수정한다면 조직의 데이터가 AI에 준비되지 않았다는 경고 신호일 수 있다고 그는 말했다. 또한 그는 AI 준비가 된 조직은 데이터 관리 작업의 일부를 자동화할 수 있어야 한다고 덧붙였다.

에롤린은 “데이터 운영과 정제의 기본적인 작업에 그렇게 많은 시간을 쓴다면, 도메인 전문가들을 더 큰 전략적 업무에 활용하지 못하고 있는 것”이라고 진단했다.

기존 시스템 문제

컴플라이언스 솔루션 제공업체인 에비돌로지 시스템즈(Evidology Systems)의 설립자이자 CTO인 루퍼트 브라운은 데이터 수집 및 저장이 제한된 기존 시스템이 문제일 수 있다고 언급했다. 일부 산업에서는 오늘날 AI 모델이 필요로 하는 방식으로 데이터를 수집, 전송, 저장하도록 설계되지 않은 소프트웨어와 미들웨어를 사용하고 있다는 설명이다.

브라운은 “데이터 품질은 가까운 미래에 AI 기술의 유용성을 제한할 문제다. 업계에는 입력 데이터 필드가 제한되거나 계좌 번호를 재사용해야 하는 기존 시스템이 여전히 널리 쓰인다. 이는 AI가 이해할 수 없는 수정 사항을 낳는다”라고 지적했다.

에롤린은 과장된 기대와 낮은 데이터 준비도의 문제를 해결하기 위해 CIO 및 IT 리더가 투명성과 협력에 주목해야 한다고 말했다. 그는 베어스데브가 비기술 이해 관계자에게 AI 구현의 현실과 과제를 교육하는 데 집중하고 있다고 언급했다.

에롤린은 “실제 과제와 기술팀이 이를 해결하는 데 쓰는 시간을 경영진인 납득하고 나면 강력한 데이터 관행에 투자하고 기대치를 조정할 가능성이 높아진다. 모두가 같은 생각을 갖도록 하는 것이 중요하다”라고 말했다.

캐피털원의 데이터 엔지니어링 부사장인 테렌 피터슨은 비즈니스 리더의 기대치와 IT 실무자의 경험 사이에 괴리가 나타났지만, 오히려 조직의 오랜 데이터 문제를 해결하는 데 필요한 자원을 제공하는 기회일 수 있다고 언급했다. 그는 캐피털원이 고객 서비스 향상을 위한 AI 도구 도입을 검토하는 과정에서, 다른 기업들의 AI 준비 상태와 실제 구현 과정에서의 어려움을 파악하기 위해 이번 조사를 진행했다고 설명했다.

피터슨은 “데이터 위생, 품질, 보안은 모두 지난 20년에 걸쳐 이야기해 온 주제다. AI와 ML이 데이터 기본 요소에 대한 관심을 높이는 촉매제가 될 가능성을 생각해 볼 수 있다”라고 말했다. 그는 AI 혁명이 데이터 품질의 중요성에 대한 이해 수준을 높일 수 있다면서, “비록 여러 CIO의 과제 목록에서 후순위였을지 모르지만 이제는 우선순위가 높아질 것”이라고 내다봤다.

소규모 프로토타입으로 시작하기

현재의 과장된 분위기 때문에 많은 비즈니스 리더가 생성형 AI 배포에 집중하고 있지만, 월드리의 암스트롱은 IT 리더가 특정 AI 기술 대신 사용 사례에 집중할 것을 권장했다. 일부 사용 사례에서는 머신러닝이나 신경망과 같은 오래된 AI 기술이 더 적합하고 저렴할 수 있기 때문이다. 그는 생성형 AI가 다른 AI 도구에 비해 엄청난 양의 에너지를 사용한다고 덧붙였다.

암스트롱은 또한 CIO가 자사에 가장 적합한 AI 사용 사례를 찾기 위해 소규모 프로토타입으로 시작할 것을 추천하며, 일부 실험은 성공하지 못할 수 있다는 점을 인정해야 한다고 설명했다.

그는 “실험이 거대할 필요는 없다. 기술에 친숙해질 기회를 얻는 것이다. 실험은 가능성을 제공한다. 전술적 조언을 하나 한다면 섣불리 제품화하지 말고 천천히, 꾸준히 투자하라는 것”이라고 말했다.

이어 그는 “일련의 지식을 쌓고 싶을 수 있다. 모두가 빠른 개발을 원하지만, 아무도 실패하고 싶어 하지 않는다. 우리 업계의 위선이다. 시도해 보고 잘 되면 계속하고, 잘 안 되면 배우면 된다”라고 조언했다.
[email protected]