La falta de métricas de éxito de los CIO condena a muchos proyectos de IA

Según la firma de investigación IDC, muchas organizaciones han lanzado docenas de proyectos de prueba de concepto de inteligencia artificial (IA) solo para ver que un gran porcentaje fracasa, en parte porque los CIO no saben si las POC cumplen con las métricas clave.

En una encuesta de IDC de septiembre, el 30% de los CIO reconocieron que no sabían qué porcentaje de sus pruebas de concepto de IA cumplían con las métricas de KPI objetivo o se consideraban exitosas.

Combinado con una encuesta de IDC de abril que encontró que las organizaciones lanzan un promedio de 37 POC de IA, la encuesta de septiembre sugiere que muchos CIO han estado arrojando espaguetis a la pared para ver qué se pega, dice Daniel Saroff, vicepresidente global de Consultoría y Servicios de Investigación en IDC.

Saroff afirma que, con un promedio de cinco de cada doce pruebas de concepto de IA que entran en producción, solo tres de ellas se consideran exitosas. El resultado es un “ciclo giratorio” de IA generativa en el que las organizaciones lanzan muchos experimentos con poco impacto. 

“Cuando dicen que no saben cuáles son sus KPI, lo que en realidad están diciendo es: ‘Cuando determinamos la prueba de concepto, no teníamos una medida de éxito’”, agrega.

El coste potencial puede ser enorme y algunas POC pueden llegar a costar millones de dólares, afirma Saroff.

Mientras tanto, alrededor del 70% de los encuestados por IDC en septiembre aseguraron que nueve de cada diez aplicaciones de IA personalizadas no lograron superar la etapa de prueba de concepto y pasar a producción. El 35% de los CIO constató que ninguna de sus aplicaciones de IA personalizadas logró superar la prueba de concepto.

Los CIO tuvieron un historial ligeramente mejor con las aplicaciones de IA creadas por proveedores, pero aun así, casi dos tercios notaron una tasa de fallos del 90%.

Es difícil definir el éxito

Incluso cuando las aplicaciones de IA llegan a la fase de producción, muchos CIO no tienen una idea clara de cómo se ve el éxito. Casi la mitad de los CIO dijeron que no sabían si sus aplicaciones de producción de IA tenían éxito o dudaban si era demasiado pronto para saberlo.

En muchos casos, las organizaciones parecen estar lanzando pruebas de concepto sin la preparación suficiente, dice Saroff. Muchas organizaciones han lanzado proyectos de IA generativa sin limpiar y organizar sus datos internos, agrega.

“Estamos viendo que gran parte de la falta de éxito de la IA generativa se debe a algo que, en retrospectiva, es obvio: datos erróneos”, afirma. “Tenemos una nueva tecnología que genera mucha expectación, y la gente siente que necesita apresurarse a utilizarla, pero no están haciendo los preparativos necesarios”.

La falta de gestión de datos y una gestión inadecuada del acceso parecen ser dos de los principales obstáculos para el éxito de una prueba de concepto de IA, añade Daniel Clydesdale-Cotter, CIO de EchoStor, un distribuidor de valor agregado (VAR).

“Una preocupación particular es que muchas empresas pueden estar apresurándose a implementar la IA sin considerar adecuadamente quién es el propietario de los datos, dónde se encuentran y quién puede acceder a ellos a través de los modelos de IA”, afirma. “La alta tasa de incertidumbre en torno al éxito de los proyectos de IA probablemente indica que las organizaciones no han establecido límites claros entre la información confidencial, los datos de los clientes y el entrenamiento de los modelos de IA”.

El control de acceso es importante, añade Clydesdale-Cotter. El equipo de finanzas de una organización no debería tener acceso a los datos que se utilizan en una herramienta de inteligencia artificial de RR. HH., y viceversa, afirma. Al mismo tiempo, los datos necesarios para que funcione una herramienta de inteligencia artificial suelen estar aislados en distintas organizaciones.

Falta de planificación

Además, el porcentaje de CIO que no conocen si sus POC de IA son exitosas sugiere una falta de planificación estratégica antes de que se lancen los proyectos, dice Michael Stoyanovich, vicepresidente y consultor senior de Segal, una firma de consultoría enfocada en recursos humanos y beneficios para empleados.

“Esto pone de relieve la falta de claridad y medición a la hora de evaluar el éxito de un proyecto de IA”, afirma. “Esta incertidumbre puede dar lugar a un desperdicio de recursos y, lo que es más importante, a la pérdida de oportunidades de mejora”.

En demasiados casos, las organizaciones parecen lanzar pruebas de concepto de IA sin considerar el impacto comercial. Si bien algunas pruebas de concepto de IA pueden brindar mejoras incrementales en la productividad interna, estos proyectos rara vez son revolucionarios, afirma.

“Las organizaciones se lanzan a la acción sin pensarlo dos veces y no establecen un plan estratégico para integrar la IA en su organización de manera reflexiva”, añade Stoyanovich. “No solo es apropiado, sino probablemente una bendición, hacer una pausa, respirar profundamente, enderezar la espalda y luego poner en marcha un plan estratégico acelerado”.

Los resultados de la encuesta de IDC son “alarmantes”, ya que casi un tercio de los CIO no comprenden las métricas de éxito y el 90% o más de las POC están fallando, agrega David Curtis, CTO de RobobAI, una fintech que utiliza IA para ayudar a las empresas a gestionar las cadenas de suministro.

Según él, muchas pruebas de concepto carecen de objeciones y métricas claras. También coincide con Saroff, de IDC, en que muchas empresas lanzan proyectos de IA con datos insuficientes o de mala calidad.

Curtis afirma que demasiadas personas que presionan a las organizaciones para que adopten la IA de última generación no comprenden la tecnología. Muchos ejecutivos tienen ideas equivocadas sobre la cantidad de trabajo necesario para implementar la IA y algunos piensan equivocadamente que la IA reemplazará a muchos empleados.

“La gente piensa que la IA es mágica, que va a llegar un punto que resuelva todos los problemas de una sola vez”, añade. “Hay una cantidad de trabajo razonablemente significativa en el manejo de la IA, dependiendo del caso de uso. No se trata simplemente de coger algo del estante y ponerlo en funcionamiento”.

En algunos casos, un experimento de IA fallido puede ser educativo y orientar a las organizaciones hacia mejores proyectos, dice Curtis. Pero muchas organizaciones, después de ver que una gran mayoría de sus pruebas de concepto de IA fracasan, pueden dejar de experimentar.

“Muchas de las empresas de servicios financieros con las que trabajo no tienen una cultura de riesgo”, afirma. “Si algo falla y gastaron millones de dólares en ello, es probable que no lo vuelvan a hacer”.

Para las empresas reacias al riesgo, una buena planificación previa puede ser una mejor alternativa que lanzar docenas de pruebas de concepto y fracasar rápidamente.

“Intenta eliminar parte del riesgo antes de empezar”, dice Curtis. “En todos los lugares en los que he trabajado, los recursos internos son un lujo. En lugar de tener 37 POC, lo reduces a dos o tres que sean importantes para empezar”.

Comience con las necesidades estratégicas

Clydesdale-Cotter, de EchoStor, aconseja a los CIO que consideren cuidadosamente las necesidades estratégicas del negocio antes de lanzar múltiples POC de IA. Al igual que Stoyanovich, sugiere que las empresas se concentren más en proyectos de IA que aporten una ventaja competitiva que en aquellos que proporcionen pequeñas mejoras de eficiencia.

Una empresa con la que ha trabajado lanzó un proyecto para contar con una IA basada en un gran modelo del lenguaje (LLM) para ayudar con las solicitudes de servicios de TI internos. La prueba de concepto pudo reducir los gastos operativos al usar IA para responder muchas consultas de servicios de TI.

“Al cliente le gustaron mucho los resultados”, afirma. “Pero el resultado final fue que, posiblemente, tendrá que gastar más de un millón de dólares para ejecutar esto en su centro de datos, solo con los nuevos requisitos de hardware y software”.

“Y la empresa responde: ‘¿Por qué gastaríamos un millón de dólares? Podríamos contratar a cinco personas’”.