Los CIO consideran que la gestión de costes puede acabar con el valor de la IA

Los CIO que sienten la presión de implementar proyectos de inteligencia artificial (IA) exitosos tienen una segunda preocupación: no tienen el presupuesto para llevarlo a cabo.

El 90% de los CIO encuestados recientemente por Gartner afirman que la gestión de los costes de la IA limita su capacidad para obtener valor de esta tecnología. Además, si los CIO no comprenden plenamente el coste de escalar la IA generativa, podrían cometer errores de cálculo de entre el 500% y el 1.000%, según Hung LeHong, analista especializado en liderazgo ejecutivo para empresas digitales en la firma de análisis e investigación. Dependiendo del proyecto de IA, un error de esa magnitud podría costar millones de dólares.

En muchos casos, utilizar un gran modelo del lenguaje (LLM, por sus siglas en inglés) para tareas de IA simples, como transcribir y traducir, puede resultar costoso cuando hay herramientas más baratas disponibles, dijo LeHong durante un webcast reciente. “Algunos de los CIO simplemente no comprenden todos los elementos de coste que existen”, agrega. “Incluso si comprenden el coste, no tienen la influencia para cambiarlo”.

Costes ocultos y aumentos de precios

La implementación de IA requiere un enfoque diferente al de otras tecnologías, agrega Sumit Johar, CIO del proveedor de software financiero BlackLine. “El verdadero problema es que el coste de poner en funcionamiento la IA generativa no siempre se entiende hasta que se intenta implementarla con éxito”, afirma. “Es muy fácil lograr un éxito rápido con un prototipo, pero hay costes ocultos involucrados en preparar los datos para la IA, entrenar los modelos de IA con datos corporativos, ajustarlos después de la implementación, establecer los controles para limitar el abuso, los sesgos y las alucinaciones”.

Johar afirma que BlackLine ha implementado sus propias herramientas de IA centrándose en proyectos que afectan a la mayoría de los empleados y clientes. Los proyectos de IA con un amplio impacto muestran a los directivos y a los empleados el poder de la tecnología, añade.

Pero los desafíos de implementación asociados con la IA son unos que muchos CIO no han enfrentado antes, agrega. “Estábamos acostumbrados a escribir sistemas basados ​​en reglas que siempre se comportarían como los diseñamos”, dice. “La IA generativa no funciona así y requiere varias inversiones adicionales para mantenerla bajo control mientras se la usa para lo que fue diseñada”.

Además de los desafíos de implementación de la IA, los proveedores de software están aumentando los precios en un 30% debido a las nuevas funciones de IA que se han incorporado, afirma Gartner. Si bien algunos proveedores de software están asumiendo el coste adicional de la IA por ahora, los CIO deben planificar teniendo en cuenta que es posible que la situación cambie, dice LeHong.

“Más adelante, esos precios subirán”, añade. “No se trata solo del coste de la IA, sino del coste de las aplicaciones que ya utilizan en su negocio, lo que realmente les preocupa”.

Un cambio hacia las pequeñas victorias

El problema de los costes, combinado con la enorme presión de los directores ejecutivos y las juntas directivas para implementar y crear valor a partir de la IA, coloca a los directores de TI y otros líderes de tecnología en una posición difícil, dice Kevin Miller, director de Tecnología de la empresa de IA industrial IFS. En una encuesta reciente de IFS a los responsables de la toma de decisiones de TI en las industrias industriales y relacionadas, el 82% de los encuestados dice que se encuentra bajo una presión significativa para adoptar la IA rápidamente, señala.

“Quizás todos hayamos sido un poco culpables de habernos adentrado en el bosque de la IA sin saber necesariamente a dónde nos dirigimos ni cómo es esa visión”, afirma. “Lo primero que los CIO deben encontrar es dónde están los pequeños logros potenciales de la IA”.

La predicción de Gartner de que los CIO pueden subestimar los costes de la IA en un 1.000% debería ser una llamada de atención para que los CIO descubran cómo medir y priorizar los proyectos de IA que pueden aportar valor, afirma Miller.

“El coste simplemente se acumula exponencialmente”, añade. “Realmente tiene el potencial de salirse de control”.

En muchos casos, los pequeños logros que muestran un valor rápido pueden ser una mejor apuesta que los proyectos enormes y de alto riesgo, aconseja Miller. También recomienda que los CIO interactúen con grupos de pares para conocer los proyectos de IA que han tenido éxito.

“Podemos aprender de otros que ya han pasado por esto”, afirma. “¿Cómo puedo hacer que esto sea lo más eficaz posible, cumpliendo con las exigencias de la junta directiva y de los altos ejecutivos con los que trabajo, interactuando con esos colegas para descubrir qué funcionó y qué no y dónde obtuvieron el mayor valor?”

El coste es sin duda una preocupación cuando los CIO piensan en implementar IA generativa, dice Yuval Perlov, CTO de K2view, un proveedor de gestión de datos. En su propia encuesta reciente a profesionales de alto nivel en implementación de IA, K2view descubrió que el coste era la principal preocupación, seguida de la seguridad y privacidad de los datos, así como la confiabilidad de las respuestas de la IA generativa.

Sin embargo, el problema es tanto de escala como de coste, dice Perlov. En muchos casos, las organizaciones lanzan proyectos ambiciosos de IA que pueden resultar costosos de ampliar, mientras que iniciativas pequeñas y estratégicas pueden generar retornos más rápidos, dice.

“Algunos [CIO] están experimentando con la tecnología y están viendo cosas interesantes que no forman parte de una estrategia, y luego quieren ampliarlas”, afirma. “Y, a menudo, no lo hacen, ya sea porque no lo calcularon de antemano o porque utilizaron un método extremadamente costoso para hacerlo, como si no hubiera formas más fáciles de lograrlo o formas más económicas”.

A diferencia de Johar, de BlackLine, que recomienda implementar proyectos de IA con una amplia base de usuarios, Perlov alienta a los líderes de TI a pensar estratégicamente y centrarse en casos de uso que tengan implicaciones estratégicas específicas para sus organizaciones. En algunos casos, los CIO querrán sacrificar el retorno de la inversión a corto plazo por ventajas estratégicas a largo plazo, y en otros casos, los CIO comenzarán con proyectos pequeños y fáciles de implementar que generen ganancias inmediatas para demostrar a los directores ejecutivos y miembros de la junta.

En lugar de crear un chatbot de clientes que responda 200 preguntas, comience con uno que responda las 10 preguntas más frecuentes y luego delegue las preguntas menos comunes a agentes humanos, sugiere.

“Empiece de a poco y en profundidad, no de forma amplia y superficial, o haga una o dos cosas, hágalas muy bien hasta el punto en que pueda implementarlas y obtener valor de ellas”, dice Perlov.

Hacerlo puede ayudar a garantizar que los costes sean manejables y que la solución pueda escalar.