Skip to content
Tiatra, LLCTiatra, LLC
Tiatra, LLC
Information Technology Solutions for Washington, DC Government Agencies
  • Home
  • About Us
  • Services
    • IT Engineering and Support
    • Software Development
    • Information Assurance and Testing
    • Project and Program Management
  • Clients & Partners
  • Careers
  • News
  • Contact
 
  • Home
  • About Us
  • Services
    • IT Engineering and Support
    • Software Development
    • Information Assurance and Testing
    • Project and Program Management
  • Clients & Partners
  • Careers
  • News
  • Contact

IT 리더가 지목한 AI 가치 실현의 최대 걸림돌은 ‘비용 관리’

CIO는 AI 프로젝트를 성공으로 이끌어야 한다는 압박 외에 또 다른 부분을 고민하고 있다. 이를 실행할 예산이 부족하다는 점이다.

가트너가 최근 실시한 설문조사에 따르면, AI 비용 관리가 가치 실현을 제한하는 요인이라고 응답한 CIO가 90%에 달했다. 가트너 디지털 비즈니스 담당 애널리스트인 헝 리홍은 CIO가 생성형 AI 확장 비용을 제대로 이해하지 못하면 500%에서 1,000%에 이르는 금액을 추가하게 될 수 있다고 말했다. 즉 AI 프로젝트 규모에 따라 이런 실수가 수백만 달러의 비용으로 이어질 수 있다.

리홍은 최근 웹캐스트에서 “더 저렴한 도구를 사용할 수 있음에도 불구하고 문서 작성이나 번역 같은 단순한 AI 작업에 LLM을 사용하면 비용이 많이 든다. 일부 CIO는 전체 비용을 파악하지 못하고 있으며, 비용을 이해하더라도 이를 변경할 영향력이 없는 경우가 많다”라고 지적했다.

숨은 비용과 가격 인상

재무 소프트웨어 벤더 블랙라인(BlackLine)의 CIO인 수밋 조하는 다른 기술과는 차별화된 접근 방식이 AI 배포에 필요하다고 말했다.

그는 “생성형 AI를 실제로 운영하는 데 드는 비용은 실제 배포하기 전까지는 제대로 파악하기 어렵다. 프로토타입으로 빠른 성공을 거두기는 쉽지만, 데이터를 AI에 적합하게 처리하고, AI 모델을 기업 데이터로 훈련시키고, 배포 후 조정하며, 오용과 편향, 환각 현상을 제한하기 위한 통제 장치를 마련하는 데는 숨은 비용이 있다”라고 설명했다.

그에 따르면 블랙라인은 대부분의 직원과 고객에게 영향을 미치는 프로젝트에 초점을 맞춰 자체 AI 도구를 배포하는 전략을 택했다. 다시 말해 광범위한 영향을 미치는 AI 프로젝트가 경영진과 직원에게 AI의 힘을 보여주고 수용도를 높일 수 있다는 것이다.

하지만 조하는 이전까지 CIO들이 겪지 않았을 과제가 AI 배포 과정에서 나타났다고 언급했다. 그는 “설계한 대로 항상 작동하는 규칙 기반 시스템을 작성하는 데 익숙했다. 생성형 AI는 그렇게 작동하지 않는다. 용도에 맞게 사용하면서도 통제하기 위해 여러 추가 투자가 필요하다”라고 말했다.

AI 배포 문제 외에도, 가트너는 소프트웨어 벤더가 AI 기능을 새로 추가하며 가격을 최대 30% 인상하고 있다고 언급했다. 일부 소프트웨어 벤더의 경우 현재 AI 추가 비용을 부담하고 있지만, 리홍은 CIO가 상황 변화에 대비해야 한다고 조언했다. 그는 “나중에는 가격이 오를 것이다. AI 비용뿐만 아니라 이미 비즈니스에서 실행 중인 애플리케이션의 비용도 우려되고 있다”라고 말했다.

작은 성과로 전환

산업용 AI 기업 IFS의 CTO인 케빈 밀러는 비용 문제와 더불어 AI를 배포하고 가치를 창출해야 한다는 CEO 및 이사회의 압박으로 인해 CIO나 기타 IT 리더가 어려운 입장에 처해 있다고 말했다. IFS가 최근 산업 및 관련 분야의 IT 의사 결정자를 대상으로 진행한 설문 조사에서 응답자의 82%가 AI를 신속히 도입해야 한다는 상당한 압박을 받고 있다고 답했다.

밀러는 “많은 기업이 어디로 가는지, 비전이 무엇인지 모른 채 AI에 뛰어들었을 수 있다. CIO가 가장 먼저 해야 할 일은 AI로 얻을 수 있는 작은 성과가 어디에 있는지 찾는 것”이라고 설명했다.

밀러는 CIO가 AI 비용을 1,000%까지 과소평가할 수 있다는 가트너의 예측을 언급하면서, 가치를 제공할 수 있는 AI 프로젝트를 측정하고 우선순위를 정하는 방법을 파악하라는 경고로 받아들여야 한다고 말했다. 그는 “비용이 기하급수적으로 증가하고 있다. 정말로 통제를 벗어날 가능성이 있다”라고 덧붙였다.

그는 빠른 가치를 보여주는 작은 성과가 위험 부담이 큰 대규모 프로젝트보다 더 나은 선택일 수 있다고 조언했다. 또한 CIO가 성공적인 AI 프로젝트에 대해 배우기 위해 동료 그룹과 교류할 것을 권장했다.

밀러는 “이미 경험한 다른 이들로부터 배울 수 있다. 동료들과 교류하면서 무엇이 효과가 있었고 무엇이 없었는지, 어디서 가장 큰 가치를 얻었는지 알아내고, 이사회와 함께 일하는 최고 경영진의 요구를 충족시키는 동시에 이를 효과적으로 만드는 방법을 찾을 수 있다”라고 설명했다.

데이터 관리 벤더인 K2뷰(K2view)의 CTO 유발 페를로프는 CIO가 생성형 AI를 배포할 때 비용은 분명 우려되는 부분이라고 말했다. K2뷰가 최근 AI 배포 전문가를 대상으로 진행한 설문 조사에서도 비용이 최대 우려 사항이었다. 데이터 보안, 프라이버시 보호, 생성형 AI 응답 신뢰성이 그 뒤를 이었다.

하지만 페를로프는 비용 문제만큼이나 규모의 문제도 있다고 지적했다. 많은 조직이 소규모 전략적 이니셔티브로 더 빠른 수익을 낼 수 있음에도 불구하고 확장에 비용이 많이 드는 야심찬 AI 프로젝트를 시작한다고 그는 언급했다.

페를로프는 “일부 CIO는 멋진 기술을 발견하고는 전략의 일부가 아닌데도 규모를 확장하려고 한다. 하지만 미리 계산하지 않았거나, 더 쉽고 저렴한 방법이 있음에도 이미 비싼 방법을 택했기 때문에 확장하지 못하는 경우가 많다”라고 말했다.

블랙라인의 조하가 광범위한 사용자 기반을 가진 AI 프로젝트 배포를 권장하는 것과는 달리, 페를로프는 IT 리더가 전략적으로 생각하고 조직에 특정한 전략적 의미가 있는 사용 사례에 집중할 것을 권했다. 어떤 경우에는 장기적인 전략 이점을 위해 단기 ROI를 희생해야 하며, CEO와 이사회 구성원에게 보여주기 위해 즉각적인 성과를 창출하는, 배포하기 쉬운 프로젝트로 시작해야 하는 경우도 있다고 그는 설명했다.

페를로프는 200개의 질문에 답하는 고객 챗봇 대신 자주 묻는 질문 10개에 답하는 챗봇으로 시작하고, 다른 질문은 상담원에게 전달하면 된다고 말했다. 그는 “넓고 얕게 하지 말고 작지만 깊게 시작하라. 한두 가지 일이라도 완벽하게 해내서 실제로 배포했을 때 확실한 가치를 창출하도록 잘 만드는 것이 중요하다”라고 조언했다.

그는 이렇게 하면 비용을 잘 관리하면서 솔루션이 확장하도록 보장할 수 있다고 설명했다.
[email protected]


Read More from This Article: IT 리더가 지목한 AI 가치 실현의 최대 걸림돌은 ‘비용 관리’
Source: News

Category: NewsNovember 22, 2024
Tags: art

Post navigation

PreviousPrevious post:“AIaaS 시장, 2029년까지 연평균 38.8% 성장” 마켓앤마켓NextNext post:“안전한 AI 배포 지원”··· 세일즈포스, AI 에이전트 테스트 기능 확대

Related posts

휴먼컨설팅그룹, HR 솔루션 ‘휴넬’ 업그레이드 발표
May 9, 2025
Epicor expands AI offerings, launches new green initiative
May 9, 2025
MS도 합류··· 구글의 A2A 프로토콜, AI 에이전트 분야의 공용어 될까?
May 9, 2025
오픈AI, 아시아 4국에 데이터 레지던시 도입··· 한국 기업 데이터는 한국 서버에 저장
May 9, 2025
SAS supercharges Viya platform with AI agents, copilots, and synthetic data tools
May 8, 2025
IBM aims to set industry standard for enterprise AI with ITBench SaaS launch
May 8, 2025
Recent Posts
  • 휴먼컨설팅그룹, HR 솔루션 ‘휴넬’ 업그레이드 발표
  • Epicor expands AI offerings, launches new green initiative
  • MS도 합류··· 구글의 A2A 프로토콜, AI 에이전트 분야의 공용어 될까?
  • 오픈AI, 아시아 4국에 데이터 레지던시 도입··· 한국 기업 데이터는 한국 서버에 저장
  • SAS supercharges Viya platform with AI agents, copilots, and synthetic data tools
Recent Comments
    Archives
    • May 2025
    • April 2025
    • March 2025
    • February 2025
    • January 2025
    • December 2024
    • November 2024
    • October 2024
    • September 2024
    • August 2024
    • July 2024
    • June 2024
    • May 2024
    • April 2024
    • March 2024
    • February 2024
    • January 2024
    • December 2023
    • November 2023
    • October 2023
    • September 2023
    • August 2023
    • July 2023
    • June 2023
    • May 2023
    • April 2023
    • March 2023
    • February 2023
    • January 2023
    • December 2022
    • November 2022
    • October 2022
    • September 2022
    • August 2022
    • July 2022
    • June 2022
    • May 2022
    • April 2022
    • March 2022
    • February 2022
    • January 2022
    • December 2021
    • November 2021
    • October 2021
    • September 2021
    • August 2021
    • July 2021
    • June 2021
    • May 2021
    • April 2021
    • March 2021
    • February 2021
    • January 2021
    • December 2020
    • November 2020
    • October 2020
    • September 2020
    • August 2020
    • July 2020
    • June 2020
    • May 2020
    • April 2020
    • January 2020
    • December 2019
    • November 2019
    • October 2019
    • September 2019
    • August 2019
    • July 2019
    • June 2019
    • May 2019
    • April 2019
    • March 2019
    • February 2019
    • January 2019
    • December 2018
    • November 2018
    • October 2018
    • September 2018
    • August 2018
    • July 2018
    • June 2018
    • May 2018
    • April 2018
    • March 2018
    • February 2018
    • January 2018
    • December 2017
    • November 2017
    • October 2017
    • September 2017
    • August 2017
    • July 2017
    • June 2017
    • May 2017
    • April 2017
    • March 2017
    • February 2017
    • January 2017
    Categories
    • News
    Meta
    • Log in
    • Entries feed
    • Comments feed
    • WordPress.org
    Tiatra LLC.

    Tiatra, LLC, based in the Washington, DC metropolitan area, proudly serves federal government agencies, organizations that work with the government and other commercial businesses and organizations. Tiatra specializes in a broad range of information technology (IT) development and management services incorporating solid engineering, attention to client needs, and meeting or exceeding any security parameters required. Our small yet innovative company is structured with a full complement of the necessary technical experts, working with hands-on management, to provide a high level of service and competitive pricing for your systems and engineering requirements.

    Find us on:

    FacebookTwitterLinkedin

    Submitclear

    Tiatra, LLC
    Copyright 2016. All rights reserved.