IBM, AI 투자수익률 보고서 발표 “47% 응답자, 긍정적 ROI 달성”

기업들은 장기적인 관점에서 AI에 투자하고 있다, 지난해 AI 전략 실행 측면에서 진전이 있었다, 데이터 품질, 가용성 및 기존 시스템과의 통합은 기업이 AI 프로젝트를 진행하면서 가장 자주 겪는 어려움이다, 2025년 기업들은 클라우드 관리 서비스, 오픈소스 활용 확대, 전문 인력 고용 우선에 중점을 둔다.

IBM이 로페즈 리서치(Lopez Research)와 모닝 컨설트(Morning Consult)에 의뢰해 진행한 ‘AI의 투자수익률(ROI of AI)’ 설문 조사 보고서의 주요 내용이다. 보고서는 AI에 대한 기업들의 투자 현황과 전망을 ROI 관점에서 분석한 결과를 담고 있다. 설문조사에 참여한 ITDM(IT Decision Maker, IT 의사결정권자)의 47%는 AI 전략에서 긍정적인 ROI를 달성했다고 밝혔다.

이번 설문 조사는 2024년 10월 30일부터 11월 13일까지 미국, 캐나다, 멕시코, 브라질, 영국, 프랑스, 독일, 스페인, 인도, 싱가포르, 인도네시아, 한국의 ITDM 2,413명을 대상으로 진행했다. 조사 대상으로 선정된 ITDM은 101명 이상의 직원이 근무하는 기업에서 비즈니스 컨설팅, 컨설팅 서비스 관리, IT 제품 구매 등에서 하나 이상의 의사 결정권을 가진 이사급 이상이다.

설문 조사에 참여한 ITDM은 ‘AI 실행에 있어 상당한 진전을 이루었다(43%)’와 ‘AI 전략 실행에 어느 정도 진전을 이뤘다(42%)’고 답변해, 전체의 참여자의 85%는 AI 전략 실행에 진전이 있었던 것으로 조사됐다. 반면, ‘전략은 있지만 진전이 없다(9%)’와 ‘전략은 없지만 계획은 있다(5%)’, ‘전략도 없고 계획도 없다(1%)’는 응답은 소수에 그쳤다.

AI 전략에 대한 평가는 조직 규모에 따라서도 차이가 있었다. 직원 규모가 1,001~5,000명인 기업에서는 AI 전략에 대한 상당한 진전이 있었다고 답변한 비율이 51%에 달했지만, 직원 수가 101~1,000명인 기업은 37%로 이보다 낮았다. 직원 규모가 5,000명 이상인 기업은 49%가 상당한 진전이 있었다고 답변했다.

AI에 대한 투자 이유를 묻는 질문에는 혁신과 ROI를 모두 똑같이 추구한다는 응답이 41%에 달했다. 혁신에 더욱 중점을 두고 있는 경우는 31%, ROI에 더욱 중점을 두고 있다는 답변은 28%를 차지했다. 높은 ROI(Return On Investment, 투자수익률)를 달성하는 것만이 AI에 투자하는 이유가 아닌 셈이다.

AI 투자에서 ROI를 산출할 때 가장 중요한 지표로 보는 항목으로 ‘더 빠른 소프트웨어 개발(25%)’, ‘더욱 빠른 혁신(23%)’, ‘생산성 시간 절약(22%)’, ‘정량화 가능한 비용 절감(15%)’, ‘문제 해결 시간 단축(14%)’을 선택했다. 한국 조직은 ‘문제 해결에 걸리는 시간 단축’을 가장 중요한 ROI 지표라고 선택한 비율이 27%로 가장 높았다.

오픈소스를 활용하는 조직에서는 ‘더 빠른 혁신’이 가장 중요한 지표라는 답변이 26%에 달했고, 오픈소스를 사용하지 않는 조직은 19%로 상대적으로 낮았다. 인도와 인도네시아의 ITDM은 각각 32%와 34%가 자사에서 가장 중요한 AI ROI 지표가 ‘혁신 속도’라고 답변했다.

성공적인 AI전략을 위한 가장 중요한 지표로는 ‘IT 운영 효율성 향상(32%)’, ‘더 큰 제품 및 서비스 혁신(21%)’, ‘고객 만족도 및 경험 향상(21%)’, ‘직원 생산성 향상(15%)’, ‘직원 만족도 및 경험 향상(11%)’ 순으로 응답률이 높았다. 오픈소스를 활용하는 회사(23%)는 오픈소스를 사용하지 않는 회사(18%)보다 성공적인 AI 전략 지표로 ‘혁신’에 더 많은 가치를 두는 것으로 나타났다.

2024년 AI에 대한 투자 결과를 묻는 질문에는 ‘AI로부터 긍정적인 ROI를 달성하고 있다’는 답변이 47%에 달했다. ‘AI 프로젝트가 손익분기점에 도달했다’는 응답도 33% 나왔다. 반면, ‘부정적인 ROI를 보이고 있다’는 경우는 14%, ‘ROI를 측정하기 어렵다’는 응답은 6%였다.

AI ROI에 가장 큰 영향을 미치는 요인을 묻는 질문에 1순위로 선택한 답변은, 사업적 가치 및 비전이 33%로 가장 많았다. 다음으로는 컴퓨팅 비용(27%), 사용자 경험(23%), 직원 채택(17%) 순으로 높았다. 사업적 가치 및 비전이 2순위와 3순위로 중요하다고 선택한 경우는 각각 24%와 23%였다.

AI 도구를 얻는 경로는 ‘공급업체에서 구매 또는 임대(67%)’, ‘오픈소스(61%)’, ‘사내 개발(55%)’이라고 답변했다. 오픈소스 기반 AI 솔루션을 묻는 질문에는 25-49%라는 응답이 46%로 가장 많았고, 50-74%라는 답변이 32%로 그 뒤를 이었다. 오픈소스 솔루션이 75-100%라는 답변은 5%였다.

AI를 구현하면서 직면하게 되는 중요 과제 중에서 매우 어려움으로 선택된 비율은 ‘기술 통합(23%)’, ‘AI 전문성 부족(23%)’, ‘AI 거버넌스 부족(22%)’, ‘데이터 관리(20%)’, ‘사업적 가치 제공 실패(19%)’, ‘직원 채택(18%)’, ‘경영진(C-Suite) 지원 부족(16%)’이었다.

AI 파일럿 프로젝트 구현할 때 만나게 되는 장애물로는 ‘데이터 품질 및 가용성(50%)’, ‘기존 시스템과의 통합(44%)’, ‘직원 간 기술 격차(37%)’, ‘확장성 문제(37%)’, ‘지속적인 모니터링 및 유지관리(36%)’, ‘비즈니스 목표와 일치(34%)’, ‘예산 제약(33%)’ 등을 꼽았다.

2025년에 AI 구현 최적화를 위한 전략적 변화로는 ‘클라우드 관리 서비스 사용(51%)’, ‘전문 인재 채용(48%)’, 더 많은 오픈 소스 사용(48%)’, ‘모델 평가(39%)’, ‘워크플로 재평가(36%)’, ‘사용 사례 추가(32%) 등을 선택했다.
[email protected]