칼럼 | 올해 기업의 고민, 해결 방안은?··· 분석가가 본 ‘2025년 생성형 AI 전망’

올해는 AI에 대한 과장된 기대와 흥분이 가라앉고 보다 현실적인 기대가 자리잡았다. 기업 도입 측면에서는 기존 모델의 한계와 업무 프로세스의 복잡성으로 인해 예상보다 더딘 진전을 보였다. 많은 기업 사용자가 깨달은 사실은 AI에 아직 ‘지능’이 없다는 점이다. 대규모 언어 모델(LLM)은 다양한 유형의 데이터에서 패턴을 찾고 사용자 프롬프트에 일치하는 결과물을 제공하지만, 사람의 관점에서 볼 때 진정한 지능이라고 하기는 어렵다. LLM은 결국 그럴듯해 보이지만 부정확한 정보를 만들어내는 경향이 있기 때문이다.

생성형 AI의 한계와 비용에 대한 우려는 여전하지만, 올해는 실질적인 진전이 있었으며 2025년에는 더욱 성장할 것으로 예상된다. 특히 다음 5가지 영역에 대한 기업의 고민을 해결할 방안이 더 구체화될 전망이다.

직원 대체가 아닌 보완

비용 절감, 새로운 제품과 서비스 혁신, 고객 경험 개선에 기반한 경쟁 우위 확보는 기술 도입 시 핵심적인 요소다. AI도 예외는 아니다. 다만 개방형 및 폐쇄형 LLM, 배포 도구를 모든 기업이 광범위하게 이용할 수 있는 만큼 상황은 더 복잡하다. 80~90년대 PC 혁명이나 2000년대 클라우드 컴퓨팅 및 SaaS가 부상하던 때처럼, 모든 조직이 동일한 도구에 접근할 수 있다면 이를 어떻게 활용하느냐가 경쟁 우위를 결정한다.

AI의 경쟁 우위는 기존 인력을 보완하고 인적 자산을 활용하는 역량에 달려 있다. 숙련도 높은 직원을 AI로 대체 가능하다고 보는 기업은 잘못된 길을 걷게 될 가능성이 높다. 회사 제품, 프로세스, 시장, 고객에 대한 직원들의 지식은 문서화되지 않은 경우가 많다. 기술이 이런 지식을 포착할 수 있다고 믿으면, 불가능한 목표를 쫓다 실패했던 1990년대 많은 지식 관리 ‘솔루션’의 전철을 밟게 될 수 있다. 신뢰 및 규정 준수 플랫폼 isAI의 설립자인 마이클 홉스는 “생성형 AI 시스템에서 답변을 빠르게 얻을 수는 있다. 하지만 CIO는 더 근본적인 질문을 해야 한다. 과연 그 답변에 가치가 있는지, AI 도구가 조직의 역량을 실제로 강화하는지, 아니면 오히려 약화시키는지 면밀히 살펴야 한다”라고 조언했다.

LLM이 포화 상태에 도달하고 있다는 우려가 사실이라면, 새로운 모델 생성에 사용되는 GPU가 추가될 때마다 기업의 수익은 감소할 수 있다. 이 경우 기존 지식 기반을 바탕으로 AI를 활용해 직원 역량을 향상시키는 전략이 핵심이 될 것이다.

데이터 자산에 집중

2025년에는 직원뿐만 아니라 기업의 데이터 자산 가치도 점점 더 높아질 예정이다. 파운데이션 모델은 설계상 여러 공개 소스에서 수집된 광범위한 데이터를 학습한다. 이는 일반적인 질문에 답변하는 능력은 뛰어나지만, 대부분 기업의 특정 요구 사항을 해결하는 데는 제한적이다. 검색 증강 생성(RAG)은 기업 고유의 데이터와 LLM의 기능을 결합해 더 집중적이고 관련성 높은 결과를 제공할 수 있다. 포레스터는 2025년에 많은 클라우드 업체가 RAG를 주요 상품으로 제공할 예정이라며, 이를 통해 기업이 더 넓은 벤더 선택권과 경쟁력 있는 비용으로 RAG를 도입할 수 있을 것이라고 전망했다.

RAG 서비스의 혜택을 받으려면 조직은 AI에 준비된 데이터를 확보해야 한다. 여기에는 데이터 정제, 중복 제거, 유효성 검사, 구조화, 소유권 확인 등 기본적이면서 필수인 정보 관리 활동이 포함된다. 포레스터는 AI 거버넌스 소프트웨어에 대한 지출이 2030년까지 4배 이상 증가해 약 160억 달러에 이를 것이라고 예측했다.

기업은 전사적으로 데이터 자산을 식별하고, 이를 활용할 창의적인 접근 방식을 채택해야 한다. AI 준비 상태로 만드는 작업을 빨리 시작할수록 2025년 출시될 새로운 RAG 서비스를 더 빨리 활용할 수 있다.

비용 통제

가트너의 2024년 설문조사에 따르면, CIO의 90% 이상이 비용 관리로 인해 AI 투자에서 기업 가치를 창출하는 데 한계가 있다고 답했다. 가트너는 광범위하게 AI를 배포하기 전에 비용이 어떻게 확장될지 계산할 필요가 있다고 언급했다. 그렇지 않으면 500%에서 1,000%에 이르는 비용 오차가 발생할 수 있다. 2025년에는 가트너, IDC, 포레스터 등 여러 기업이 개념 증명(PoC)과 초기 배포에서 얻은 지식을 바탕으로 이런 비용을 계산하는 더 나은 프레임워크를 제공할 것으로 예상된다.

2025년에는 또한 마이크로소프트 애저, AWS, 구글 클라우드 등 클라우드 기업의 AI 제품이 발전하면서 경쟁력 있는 가격이 형성될 수 있다. 이는 기업의 비용 관리에 도움이 될 수 있다. 다만 새로운 AI 지원 데이터센터의 구축 속도가 관건이다. 맥킨지는 2023년부터 2030년까지 데이터센터 용량에 대한 전 세계 수요가 연간 19%에서 22% 증가할 것으로 예상했다. 새로운 센터에 공급되는 전력 문제도 2025년과 그 이후에 수요를 제한하는 요인이 될 수 있다.

AI ROI 측정

2025년에는 기업 내 AI 배포의 복잡성이 더 심화되면서 ROI에 대한 우려도 늘어날 가능성이 높다. 그러나 ROI를 계산하는 더 세밀한 접근 방식도 등장할 수 있다. 재무 및 생산성 관점에서 새로운 기술의 가치를 측정하기란 오랫동안 어려운 과제였다. 1987년 노벨상 수상자인 로버트 솔로우는 “컴퓨터는 어디에서나 사용되지만, 생산성 통계에서는 찾아볼 수 없다”라고 말한 바 있다. 정보 기술이 급속도로 발전하는 상황에서 미국의 생산성 증가율이 둔화되는 현상을 지적한 것이다.

이런 문제는 2025년에도 계속돼 관리자들이 AI 투자의 이점을 수치화하는 데 어려움을 겪을 수 있다. 문제는 AI의 이점을 측정하는 공통 기준의 부재다. 비용은 이전 연도와 비교할 수 있기에 비교적 쉽게 계산하는 기준이다. 하지만 AI를 통한 직원의 업무 개선 수준을 계산하기는 더 어렵다. AI 배포 확장에 따른 비용 계산과 마찬가지로, 2025년에는 관리자가 투자 가치를 특정하는 데 유용한 새 프레임워크가 등장할 가능성이 높다. 이런 프레임워크는 기존의 KPI를 넘어 고객 만족도 수준, 의사 결정 개성, 혁신 프로세스 가속화 등의 지표를 통합해야 한다.

AI 혁신 시대의 생존 전략

현재 AI 제품의 혁신적인 특성은, 과거 인터넷이 블록버스터, 보더스, HMV 같은 기업을 약화시키고 결국 대체했던 것처럼 많은 기업의 비즈니스 모델을 위협하고 있다. 클레이튼 크리스텐슨은 이런 상황을 ‘혁신 기업의 딜레마’라고 불렀다. 이는 잘 운영되고 성공적인 기업이 새로운 기술과 비즈니스 관행을 혁신적으로 다루는 신규 진입자에 의해 쉽게 무너질 수 있다는 개념이다. 올해 온라인 교육 대기업인 체그(Chegg)의 사례가 대표적이다. 체그는 학생들이 월 19.95달러의 구독 서비스 대신 무료로 챗GPT의 도움을 받으면서 시장 가치의 99%, 즉 145억 달러를 잃었다.

이처럼 극적이지는 않더라도 2025년에 유사한 사례가 등장할 수 있다. 이런 문제는 B2C와 B2B 환경 모두에서 마케팅, 출판, 엔터테인먼트, 교육 등 여러 부문에 걸쳐 있다. 체그 사례는 모든 기업에 경고가 돼야 하지만, 한편으론 기회가 될 수도 있다. SWOT 분석과 같은 시나리오 계획이 우선순위가 돼야 한다. 기업의 강점이 어떻게 AI의 이점을 활용할 수 있으며, 외부 기회와 위협은 어떤 영향을 미치는가?

2025년은 여러 면에서 도전적인 해다. 기업 관점에서 AI 중심의 변화는 가속화되겠지만, 천천히 그리고 꾸준히 진행될 것이다. 많은 모델의 접근성이 개선되고 기존 애플리케이션과 통합되면서 모든 기업이 이를 이용할 수 있게 됐다. 따라서 AI를 통해 기존 강점과 데이터 자산을 보완하고 전략적 목표에 맞추는 기업이 성공할 가능성이 높다.
[email protected]