La preocupación por los costes pone en jaque las estrategias de IA de los CIO

Los resultados cuestionables y la falta de confianza en los beneficios prometidos por la inteligencia artificial (IA) generativa están demostrando ser barreras clave para la adopción de esta tecnología por parte de las empresas.

Pero según una encuesta reciente de IDC, la preocupación por los costes es otro de los principales obstáculos para la IA generativa, ya que el 46% de los más de 1.000 profesionales de TI encuestados afirma que la falta de previsibilidad en los precios es un obstáculo fundamental para implantar la IA generativa en sus organizaciones.

Para mitigar estas preocupaciones, los encuestados por IDC “manifiestan su preferencia por el consumo según el uso, lo que no está en sintonía con la mayoría de los proveedores, que exigen un compromiso por adelantado”, según un resumen ejecutivo basado en la encuesta de octubre a profesionales de TI y ejecutivos de línea de negocio.

Sastry Durvasula, director de Operaciones, Información y Digital de TIAA, cree firmemente que la fijación de precios basada en el consumo es el mejor modelo para las estrategias de IA de las organizaciones empresariales.

“La mayoría de las organizaciones todavía están averiguando sus patrones de uso de la IA, por lo que comprometerse a grandes costes iniciales es arriesgado. El pago por uso ofrece una mejor visibilidad y control de los costes, además de la flexibilidad de escalar en función del uso real”, afirma. “Nos preocupan menos los costes únicos de formación y puesta a punto y más la gestión de los gastos operativos corrientes. De esta forma, podemos vincular directamente los costes al valor y ajustarlos según sea necesario”.

Chris Nardecchia, CIO de Rockwell Automation, está de acuerdo en que el pago por uso es el modelo de precios preferido por los CIO.

“La mayoría de las empresas, especialmente fuera de la tecnología, se enfrentan a barreras significativas para implementar infraestructuras de IA internas que sean capaces de ejecutar modelos altamente avanzados”, dice. “Mientras que construir desde cero está fuera del alcance de la mayoría, los modelos basados en el consumo permiten a los CIO implementar la IA de forma incremental con un ROI más medible”.

Los líderes de TI están comprendiendo mejor los enfoques de precios de la IA generativa de los proveedores, pero en general no les gusta. Dave McCarthy, vicepresidente de Investigación de IDC y uno de los autores de la encuesta, señala que los CIO todavía están lidiando con la mejor manera de gestionar los costes inesperados en la nube y han aprendido que estimar los costes de las nuevas cargas de trabajo es un reto sin datos históricos.

“Dado que la IA es nueva para la mayoría de las empresas, esto crea un reto presupuestario para sus iniciativas. Para empeorar las cosas, muchos proveedores todavía están experimentando con diferentes modelos de precios que están sujetos a cambios”, dice McCarthy. “Esa incertidumbre crea un reto para las empresas reacias al riesgo que deben trabajar con limitaciones presupuestarias. Los precios de pago por uso son una forma de reducir el riesgo financiero al no bloquearse en contratos a largo plazo”.

Adnan Masood, arquitecto jefe de IA en UST, dice que la “fijación de precios impredecible” hace que sea difícil incluso para los directores financieros gestionar el gasto en IA.

“Los costes que fluctúan de forma que ni siquiera un director financiero que utilice una estrategia avanzada basada en datos puede prever completamente, … eso es una amenaza masiva para la solvencia y puede descarrilar las competencias básicas que estos ejecutivos deben proteger”, afirma.

En opinión de Masood, “el verdadero temor no es el poder de la tecnología, sino la falta de control de costes en tiempo real y de métricas de rendimiento claras que justifiquen las audaces inversiones en IA”.

Resultados cuestionables, beneficios dudosos

Además de los temores sobre los precios, IDC encontró preocupaciones sobre los malos resultados (51,3%) -incluyendo el sesgo no intencionado, el uso no autorizado de la propiedad intelectual de otra persona o la filtración no intencionada de información confidencial- y la falta de confianza en los beneficios (46,1%) de la IA generativa como principales obstáculos para la adopción.

En este caso, un antídoto puede ser el uso de agentes SaaS y la búsqueda de casos de uso básicos de IA generativa, como el resumen automatizado de documentos, en lugar de intentar construir y entrenar un modelo básico, afirma Paul Beswick, CIO de Marsh McLennan. Hacer esto también puede suponer una incursión rentable en la IA, añade.

“Existe absolutamente un punto dulce de capacidad de acceso relativamente fácil a un precio modesto que muchas organizaciones tecnológicas son perfectamente capaces de alcanzar. Creo que el mayor riesgo es que se distraigan intentando apuntar a cosas que tienen menos probabilidades de éxito o comprando tecnologías que no ofrecen una buena relación precio/rendimiento”, afirma.

“La mayoría de las organizaciones deberían evitar intentar construir sus propios modelos de IA generativa a medida, a menos que trabajen en casos de uso de muy alto valor y muy nicho”, añade Beswick. “Para la mayoría de las empresas, creo que hay mucho mejor rendimiento en aprovechar el ecosistema que se está construyendo y que es relativamente fácil de comprar o alquilar su camino”.

Masood, de UST, está de acuerdo en que el potencial de costes de la formación modelo no es para los débiles de corazón.

Los responsables de TI “parecen más alarmados por el espectro de las facturas de formación desbocadas: Una vez que se da el pistoletazo de salida a un modelo generativo a gran escala, puede convertirse en un pozo sin fondo sin transparencia operativa ni estrategias sólidas de mitigación de riesgos”, afirma. “Al mismo tiempo, el impacto diario de los costes incrementales causa estragos en la legitimidad institucional: nadie quiere explicar a la junta directiva el pico de anoche en el uso de la IA sin un sólido marco de innovación de gobernanza”.

Según Nardecchia, de Rockwell, las limitaciones presupuestarias también influyen a la hora de impedir la creación de infraestructuras de IA, dado el coste de las GPU. La escasez de arquitectos de IA y científicos de datos experimentados, la complejidad técnica y la preparación de los datos también son obstáculos clave, añade.

“Los modelos fundacionales requieren datos amplios, limpios y estructurados, y la mayoría de las organizaciones siguen luchando contra silos heredados y datos de baja calidad. Esta es, en gran medida, la principal limitación que me transmiten mis colegas”, afirma, en relación con la preocupación por los malos resultados.

Los proveedores están trabajando para superar estos obstáculos abordando los problemas de precios e intentando mejorar los resultados. Por ejemplo, Microsoft ha introducido esta semana precios basados en el consumo para Copilot Chat. Y Amazon acaba de presentar funciones para su plataforma de IA generativa Bedrock diseñadas para mejorar los resultados.

En AWS re:Invent, Chaitanya Hari, de Doordash, dijo que la nueva función de bases de conocimiento de Amazon Bedrock permitía a la empresa implementar todo el flujo de trabajo de generación aumentada de recuperación (RAG), desde la ingesta hasta la recuperación, sin necesidad de muchas integraciones de datos personalizadas ni de una compleja gestión de back-end de datos.

“Incluso si un modelo es rápido y bastante preciso, ¿cómo nos aseguramos de que está extrayendo información del contexto que le hemos proporcionado y no se está inventando cosas? Pasamos por múltiples iteraciones de ingeniería rápida y ajuste fino para garantizar que nuestros modelos de IA hicieran referencia de forma fiable solo a las bases de conocimiento que proporcionamos con Amazon Bedrock”, dijo Hari, propietario de producto de soluciones de IA empresarial en DoorDash.

“Pudimos mitigar una gran parte de nuestras alucinaciones, prevenir cosas como los ataques de inyección de prompt y detectar cosas como el lenguaje abusivo”, dijo Hari. “Esto nos dio la confianza para escalar sin comprometer la calidad o la confianza”.

Costes de intercambio de datos, primas en IA generativa

La encuesta de IDC también reveló preocupaciones adicionales sobre los precios que están obstaculizando la adopción de la IA generativa, incluidos los costes a menudo ocultos asociados con el intercambio de datos entre sistemas.

La mayoría de las organizaciones esperan que la nube pública IaaS sea su principal fuente para la infraestructura de IA generativa, según muestra la encuesta de IDC. Sin embargo, es posible que muchas deseen utilizar sistemas locales junto con IaaS para una mayor privacidad, señalan los autores del informe. Esta preferencia por una arquitectura híbrida de IA generativa “requerirá modelos de precios bien definidos que tengan en cuenta los costes asociados a la transferencia de datos entre ubicaciones de despliegue”, según el resumen ejecutivo de IDC.

La fijación de precios más elevados para los servicios de IA generativa es otra de las preocupaciones de los CIO, señalan IDC y los CIO.

“Los costes adicionales de la IA agéntica -agentes sofisticados de IA que actúan de forma autónoma- son racionalmente aterradores cuando el retorno de la inversión es difuso”, afirma Masood, de UST.

La forma en que los proveedores fijarán en última instancia el precio del uso de la IA agéntica es objeto de debate y confusión. Salesforce, por ejemplo, que acaba de anunciar Agentforce 2.0, adopta un enfoque de precios por conversación. La plataforma está siendo utilizada, por ejemplo, por FedEx para agilizar las operaciones y por Saks Fifth Avenue para responder a las preguntas de los clientes sobre artículos de venta al por menor.

Es posible que estas funciones avanzadas no estén al alcance de todas las empresas durante algún tiempo. Según la encuesta de IDC, los modelos de precios variados para los servicios de Gen AI-infused son un hecho, pero se prevé una estabilización en pocos años.

“La mayoría de los compradores de servicios infundidos con IA generativa muestran expectativas de precios premium para la prestación de servicios utilizando IA generativa hoy en día”, señala el resumen ejecutivo. “Sin embargo, en tres años, las organizaciones esperan modelos de precios equilibrados y variados para la prestación de servicios infundidos por IA generativa”.

Superar los obstáculos de la IA generativa

Si bien casi todas las empresas están considerando o implementando alguna forma de IA, pocas lo hacen bien la primera vez, como lo demuestran las altas tasas de fracaso piloto de IA. Pero no tiene por qué ser así.

“Los CIO y los propietarios de empresas deben adoptar un enfoque diferente para implementar nuevos procesos impulsados por la IA y existen múltiples estrategias para aumentar el éxito de los pilotos de IA”, afirma Chris Stephenson, director general de Automatización Inteligente e IA de Alliant.

“A veces, incluso con una funcionalidad ideal, un proyecto piloto de IA puede fracasar por falta de aceptación por parte de las principales partes interesadas que financian el proyecto o de los empleados que deben utilizarlo”, añade. “Al comienzo de un piloto de IA, los líderes del proyecto deben identificar las mediciones clave para el ROI del proyecto desde el principio para mostrar a las partes interesadas cómo se está rastreando el proyecto en cada paso”.

El proveedor de centros de datos Digital Realty instruye a los CIO a comenzar poco a poco con pilotos específicos para probar el ROI, generando confianza en toda la organización, alineando la IA con los objetivos comerciales y utilizando métricas claras para mostrar cómo impulsa los ingresos, reduce los costes o mitiga el riesgo.

“Aconsejamos a los clientes empresariales que mantengan la visibilidad de toda su infraestructura. Un enfoque sencillo pero eficaz es hacer un seguimiento de la relación entre tokens, vatios y dólares”, afirma Chris Sharp, CTO de Digital Realty. “Este modelo monitoriza la producción de tokens en despliegues de IA, la potencia necesaria para soportar la infraestructura -teniendo en cuenta la dinámica de densidad y capacidad- y los costes operativos asociados a lo largo del tiempo”.

Bryan Muehlberger, CIO de Lumiyo y ex CIO y CTO de Vuori y Red Bull, aconseja a los CIO que tengan en cuenta todos los costes relacionados con la IA – modelos de precios inciertos, costes de energía y situación económica – en cualquier ecuación antes de seguir adelante.

“Ahora mismo, el aumento de los costes de los chips, el consumo de energía relacionado con ellos y las tensiones macroeconómicas con China y dentro de la cadena de suministro [son preocupaciones clave]”, afirma. “Estas cuestiones tendrán un gran impacto en el futuro de la IA en los próximos uno o dos años. Incluso OpenAI está experimentando algunos problemas en el despliegue de sus últimas versiones debido a estas complejidades”.