“올바른 데이터가 관건” 미래 AI 서비스를 위한 CIO의 당면 과제

AI는 엄청난 양의 데이터를 필요로 한다. 구조화된 데이터든 비정형 데이터든, CIO는 AI 기반 서비스를 운영하기 위한 데이터 환경을 구축해야 한다.

가트너의 연례 전망에 따르면, 전 세계 IT 지출은 올해 말 5조 6,100억 달러에 이를 것으로 예상되며, 2024년 대비 9.8% 증가할 것으로 보인다. 특히 데이터센터 시스템, 디바이스, 애플리케이션 부문 투자가 두 자릿수 성장세를 기록할 전망인데, 이는 기업의 생성형 AI 프로젝트 수요 증가에 따른 업그레이드 때문이다.

하지만 기업이 AI 활용을 위한 기술 인프라에 투자한다고 해서 신뢰할 수 있는 데이터를 확보하는 일이 간단한 것은 아니다. 엄격한 거버넌스 요건과 빠르게 변하는 고객 요구에 대응해야 하기 때문이다. 여기에 디지털 트랜스포메이션 속도까지 더해지면서 미래형 데이터를 수집하는 일은 더욱 어려운 과제가 되고 있다.

맥킨지가 발표한 ‘2025 기술 트렌드 전망(Technology Trends Outlook for 2025)’ 보고서에 따르면, 기술 생태계는 여전히 혁신 주도형 변화를 겪고 있다. 맥킨지는 기업이 성공하려면 AI를 적용해 가장 큰 영향을 낼 수 있는 영역을 식별하고, 규제 변화나 생태계 준비도 같은 외부 요인에도 대응해야 한다고 분석했다.

기업 기술의 수호자인 CIO는 이런 도전에 대응해야 한다. 부미(Boomi)의 CEO 스티브 루카스는 “현대 기업이 보유한 방대한 데이터는 출발점에 불과하다”라며, “데이터는 이미 충분하다. 아니, 너무 많다. 수집·저장·접근에만 집중하는 것은 올바른 접근이 아니다. 중요한 것은 어떤 데이터가 의미 있는지 파악하는 것이다. CIO라면 오늘 어떤 데이터가 중요한지, 그리고 내일 어떤 기술이 중요해질지를 이해해야 한다”라고 지적했다.

다수의 디지털 리더와의 대화 결과, 데이터 관리에 능숙한 조직일수록 체계적인 접근 방식을 취하고 있었다. 이들은 비즈니스 전략에 초점을 맞추고, 기업이 실제로 필요한 정보를 먼저 파악한 뒤 현재 추진 중인 프로젝트에 필요한 데이터를 정제하고, 장기 목표 달성을 위한 데이터로 확장하고 있었다.

비즈니스 전략과 데이터의 연결

에너지 전문기업 EDF 파워 솔루션의 데이터 거버넌스 컨설턴트 케니 스콧은 “올바른 데이터를 수집하려면 비즈니스를 운영하는 사람들과 긴밀히 협력해야 한다”라고 강조했다. 디지털 리더는 데이터 프로젝트가 기업의 비즈니스 전략과 긴밀히 연결되고, 그 전략에 의해 추진되도록 해야 한다는 것이다.

스콧은 “C 레벨이 마련한 비즈니스 계획을 살펴봐야 한다. 기업이 향하고자 하는 방향은 어디인가? 그리고 데이터가 그 여정을 어떻게 지원할 수 있는가? 이사회는 인력과 예산을 마련하겠지만, CIO는 그들이 전략적 목표를 달성하도록 어떤 지원을 해야 하는가를 고민해야 한다”라고 설명했다.

스콧은 EDF에서 ‘엔진룸’이라 부르는 데이터 인프라를 구축했다. 인포매티카를 기반으로 스노우플레이크를 핵심 데이터 저장소로, 파워 BI를 조종석 역할로 두어 사용자가 데이터를 인사이트로 전환할 수 있도록 했다. 데이터를 정제·분류한 덕분에 전략적 비즈니스 과제를 해결하는 데이터 기반 프로젝트를 효율적으로 수행할 수 있었다.

스콧은 이런 ‘문제 우선(problem-first)’ 접근 방식이 과거와 뚜렷이 다르다고 말했다. 과거 금융 서비스 업계에서 일하던 시절에는 “기술을 먼저 사고 나서 해결할 문제를 찾는” 관행이 일반적이었다. 스콧은 “데이터의 가치가 전사적으로 인식된 지금도 여전히 많은 데이터 프로젝트가 IT 조직의 욕구에 의해 주도되고 있다”라고 지적했다.

또한, “1990년대 은행업에서 IT 부서가 비즈니스 부서에 ‘무엇을 해야 하는지’ 지시하던 시절이 있었다. ‘꼬리가 몸통을 흔드는 꼴’이었다. 그런데 지금도 그런 접근이 남아 있다. 누군가 요구사항을 제시하고 그것을 해결할 도구를 구매하지만, 데이터의 구조화, 제공, 소유에 대해서는 고려하지 않는다. 디지털 리더는 반드시 비즈니스 전략에서 출발해야 한다”라고 강조했다.

이 같은 접근법은 스콧츠미라클그로(ScottsMiracle-Gro)의 데이터 인텔리전스 부문 부사장 파우스토 플레이테스의 생각과도 일치했다. 플레이테스는 자사가 “정원 관리 분야에서 모든 소비자의 소믈리에 역할을 하는 것”을 명확한 비즈니스 전략으로 삼고 있다고 설명했다. 그리고 이 목표를 실현하기 위해 필요한 데이터를 구체적으로 정의한다고 밝혔다.

플레이테스는 “AI를 활용해 그 목표를 달성하려면 어떤 데이터가 필요한가를 묻는다. 소비자의 문제 해결, 자주 묻는 질문, 제품 추천과 관련된 다양한 콘텐츠를 올바른 형식으로 확보해야 한다. 이런 전략적 목표가 어떤 데이터를 수집해야 하는지 판단하는 명확한 기준이 된다. 이미 대부분의 데이터를 보유하고 있으며, 남은 과제는 데이터를 올바르게 구조화하는 것뿐이다”라고 설명했다.

플레이테스는 산업이나 비즈니스의 특성에 따라 구체적인 실행 방식은 달라질 수 있지만, 근본 원칙은 동일하다고 강조했다. 또, “비즈니스 운영 방식을 어떻게 개선하거나 변화시키고 싶은 지 비전을 먼저 세워야 한다. 그 비전이 어떤 데이터를 수집할지를 결정하게 된다”라고 조언했다.

보유 자산을 최대한 활용하기

명확한 비즈니스 전략이 정해졌다면, 디지털 리더는 조직이 목표를 달성하는 데 도움이 되는 정보에 집중해야 한다. 그러나 부동산 전문기업 세그로(SEGRO)의 CIO 리처드 코브리지는 “미래 프로젝트를 위해 지금 올바른 데이터를 수집하는 일은 결코 단순하지 않다”라고 지적했다.

코브리지는 “특히 부동산 분야에서는 어떤 데이터가 진짜 필요한지 판단하기 어렵다. 세그로는 120년 된 기업으로, 수십억 달러에 달하는 자산 데이터가 존재한다”라며, “숲 속에서 나무를 찾는 일처럼 복잡하지만, CIO는 이미 기업 안에 자리 잡은 데이터의 뿌리를 찾아야 한다. 보유 중인 방대한 데이터를 돌아보고, 그 정보를 적절히 배치해 AI 프로젝트에 활용할 수 있도록 만드는 것이 핵심이다”라고 강조했다.

세밀한 데이터 관리의 중요성은 영국 도로 서비스 기업 RAC의 데이터 인사이트 총괄 이언 러플의 견해와도 일치했다. 러플은 “복잡한 조직일수록 거의 사용되지 않는 데이터를 무분별하게 모으기 쉽다. 광범위한 수집보다 지금 비즈니스에 중요한 정보에 집중해야 한다”고 말했다.

러플은 “변수 60개를 넣은 데이터 모델이 모든 변수가 유의미하다고 말하지 않는다. 실제로 차이를 만드는 것은 네댓 개뿐이다. 데이터 수집도 마찬가지다. 양보다 질, 그리고 진정으로 중요한 부분에 집중해야 한다. 그것을 완벽하게 해내는 것이 중요하다”라고 설명했다.

채용 전문기업 페이지그룹(PageGroup)의 CIO 도미닉 레드먼드는 “디지털 리더는 이미 보유한 데이터 자산을 적극 활용해야 한다”라며, “미래에 가치가 있을지 모르는 데이터를 새로 모으는 데 집중하기보다, 이미 보유한 데이터 세트에서 의미 있는 가치를 발굴하는 것이 더 중요하다”라고 말했다.

레드먼드는 “어떤 데이터를 수집할 것인가보다 더 중요한 질문은 이미 가지고 있는 데이터 중 어떤 부분이 미래의 가치 창출로 이어질 것인가이다. 구조화된 데이터든 비정형 데이터든 이미 모든 정보가 있다. 미래의 비즈니스 가치를 만들어낼 영역에 초점을 맞춰야 한다”라고 덧붙였다.

장기적인 결과에 집중하기

미국 피츠버그시 최고 데이터 책임자 크리스 벨라스코는 “지방자치단체는 오랫동안 비용 통제와 데이터 보안 확보를 위해 데이터 활용 범위를 제한해왔다. 기업도 이런 집중적 접근이 필요하다”라고 말했다.

벨라스코는 “달성하고자 하는 목표를 신중하게 설정하고, 실제로 원하는 결과를 내기 위한 계획을 세워야 한다. 데이터 전략을 추진할 때 결과를 중심에 두면, 앞으로 5년 뒤 필요한 정보를 지금 어떤 방식으로 수집해야 할지 미리 생각하게 된다”라고 설명했다.

또한, “이번 10년 동안 경험한 기술 혁신 속도는 앞으로 더 빨라질 것이다. CIO가 5년, 10년 뒤 어떤 데이터가 가장 가치 있을지를 정확히 예측할 수는 없다. 따라서 비즈니스 운영의 세부 사항을 잘 이해하는 고위 임원진과 협력해야 한다”라고 조언했다.

가정용품 제조사 조셉 조셉(Joseph Joseph)의 공급망 총괄 책임자 사차 본은 자사가 SAP 기반 데이터 인프라를 활용해 주요 인사이트를 도출하고 있다고 밝혔다. 본은 “AI의 잠재력을 탐색하는 것도 중요하지만, 현재는 새로운 트렌드를 포착할 수 있는 데이터 포인트를 식별하는 것이 우선 과제다”라고 말했다.

본은 “고객 만족도와 관련된 모든 접점을 분석하고 있다. 단순히 ‘얼마나 많은 고객이 만족했는가’라는 숫자에 머무르지 않고, 그 평가가 구체적으로 어떤 의미인지 파악해 브랜드 참여 전략을 개선하고, 향후 고객과의 관계를 강화하는 데 활용하고자 한다”라고 설명했다.

페인트 제조사 요툰(Jotun)의 데이터 총괄 그로 캄피요르는 “성공적인 데이터 수집의 핵심은 경영진과의 긴밀한 협력”이라고 강조했다. 다시 말해, 데이터 이니셔티브를 비즈니스 전략과 연계하는 디지털 리더들은 현재의 단편적인 사용례에 얽매이는 것보다 장기적인 성과를 달성할 가능성이 더 높다는 것이다. 또, “데이터는 부산물이나 부차적인 것이 아니라, 기업 운영의 핵심이다. 경영진이 데이터와 비즈니스의 연계성을 인식하고, 결과와 비용에 대한 책임을 명확히 해야 한다”라고 덧붙였다.
dl-ciokorea@foundryco.com