El CIO ante el desafío de gestionar los agentes de IA

En un escenario en el que los agentes de IA ya están preparados para hacerse cargo de gran parte del flujo de trabajo de las empresas, los líderes de TI tendrán que afrontar un reto cada vez más complejo: gestionarlos. “Preocupa cómo gestionar los agentes de IA en la nube”, reconoce Dave McCarthy, vicepresidente de investigación de IDC, señalando que la creciente disponibilidad de estos agentes creados tanto por empresas emergentes como por tecnológicas ya consolidadas planteará a los directores de sistemas de información importantes retos en materia de gestión de activos, seguridad y control de versiones.

Los analistas afirman que los tres grandes hiperescalares y proveedores de gestión de la nube son conscientes de esta brecha y están trabajando en ella. McCarthy, por ejemplo, señala que el anuncio de Agentspace realizado por Google en diciembre se dirigía a satisfacer algunas necesidades de gestión multiagente. Por otro lado, empresas innovadoras, como AgentOps y OneReach.ai, así como Fiddler, Arize, Pezzo, Helicone y AimStack, se han lanzado también a dar respuesta a esta problemática.

“Es un campo emergente”, afirma Tom Coshow, director sénior y analista de IA en Gartner. “Una gran empresa probablemente no construya todos sus agentes en un solo lugar y esté atada a un proveedor, pero posiblemente no querrá 30 plataformas. Lo que necesita es una visión única de todos los agentes de IA que está construyendo que la avise cuando el rendimiento sea deficiente o haya un problema de seguridad”.

Aunque el mercado de la IA basado en agentes está en sus inicios, los directores de sistemas de información, que son optimistas ante las expectativas de esta tecnología, son conscientes de la necesidad de gestionar y supervisar los flujos de trabajo de estos agentes en tiempo real. “Gestionar la IA con agentes es, de hecho, un reto importante, ya que las herramientas tradicionales de gestión de la nube para la IA son insuficientes para esta tarea”, afirma Sastry Durvasula, director de operaciones, información y digital de TIAA.

Los sistemas de IA basada en agentes requieren mecanismos de supervisión, seguridad y gobernanza más sofisticados debido a su naturaleza autónoma y a sus complejos procesos de toma de decisiones. Las herramientas en la nube y las capacidades de automatización actuales son insuficientes para gestionar la toma de decisiones dinámica de la IA basada en agentes.

Durvasula también señala que las cargas de trabajo en tiempo real de esta tecnología también podrían sufrir retrasos debido a la latencia de la red en la nube. “Para satisfacer las necesidades empresariales, las organizaciones deben invertir en herramientas de gestión avanzadas específicas para la IA que puedan gestionar cargas de trabajo dinámicas, garantizar la transparencia y mantener la responsabilidad en entornos multinube”, indica. “Este enfoque ayudará a las empresas a maximizar los beneficios de la IA basada en agentes al tiempo que mitiga los riesgos y garantiza un despliegue responsable”.

Sin embargo, el desafío se agravará cuando haya varios agentes involucrados en un flujo de trabajo que probablemente cambie y evolucione a medida que se encuentren diferentes entradas de datos, dado que estos agentes de IA “aprenden” y se ajustan a medida que toman decisiones. “Si los agentes utilizan IA y son adaptables, necesitarás alguna forma de ver si su rendimiento sigue estando en el nivel de confianza que deseas”, dice Coshow, de Gartner.

La IA basada en agentes implica un flujo constante en el futuro

La naturaleza dinámica de la toma de decisiones autónoma implica que deben existir barreras de seguridad y gobernanza serias para evitar consecuencias no deseadas, sostiene Eric Johnson, director de información de PagerDuty. “Aunque los agentes de IA pueden generar importantes aumentos de la eficiencia, también pueden introducir complejidades en torno a la supervisión y la responsabilidad de la IA. Es importante que las organizaciones establezcan marcos claros que ayuden a evitar que sus agentes de IA pongan en riesgo sus operaciones en la nube, incluida la supervisión de las actividades de los agentes para garantizar el cumplimiento de las normativas sobre datos”, afirma. “Generar confianza mediante la validación humana y unas estructuras de gobierno claras es esencial para establecer protocolos estrictos que guíen decisiones más seguras impulsadas por los agentes”. Johnson añade que esta área aún está madurando en las plataformas de gestión de la nube, así como dentro de los equipos jurídicos, de seguridad y de cumplimiento.

Abhas Ricky, director de estrategia de Cloudera, señaló recientemente en LinkedIn los retos de costes que implica la gestión de agentes de IA. “Los desarrolladores quieren crear flujos de trabajo de agentes de varios pasos sin preocuparse por los costes desorbitados. Hay organizaciones que gastan más de un millón de dólares al año en llamadas LLM”, escribió. “Las operaciones de los agentes son una capacidad crítica: piense en los SDK de Python para la supervisión de agentes, el seguimiento de costes LLM, la evaluación comparativa, para obtener visibilidad de las llamadas API, la gestión de costes en tiempo real y las puntuaciones de fiabilidad de los agentes en producción”.

A medida que el número y la variedad de agentes de IA crecen más rápido de lo que las empresas pueden consumir, también lo hacen los requisitos para todos los aspectos de la gestión. Reed McGinley-Sempel, director ejecutivo de la plataforma de identidad Stytch, por ejemplo, señala que la “experiencia del agente” se está convirtiendo en una prioridad clave para las empresas, mientras que en el pasado eran la UX (experiencia del usuario) y la DX (experiencia del desarrollador) las que determinaban cómo interactuaban con el software los humanos y los desarrolladores. La amplia gama de agentes de IA, desde copilotos hasta herramientas de codificación y asistentes autónomos, complica la forma en que los directores de información de las empresas garantizarán que los flujos de trabajo de IA de los agentes se supervisen y gestionen adecuadamente, afirma.

“A diferencia de la autenticación de usuario tradicional, donde la identidad está vinculada a una persona, los agentes de IA actúan en nombre de los usuarios, lo que plantea nuevas preguntas sobre la confianza, los permisos y los límites de seguridad”, señala McGinley-Sempel. “Si las aplicaciones no evolucionan para adaptarse a los flujos de trabajo de los agentes, las empresas corren el riesgo de bloquear una automatización valiosa o de abrirse a accesos no autorizados. Las empresas que establezcan flujos de autenticación claros y estandarizados para los agentes de IA serán las que lideren esta nueva era de la automatización”.

Un trabajo en curso

Los analistas señalan que, aunque los hiperescalares de la nube están trabajando para abordar la preocupación, se desconoce hasta qué punto ofrecerán soporte Agentspace de Google, Microsoft Azure AI Services, xAI o la plataforma de gestión de OpenAI, y mucho menos para todos los agentes. Esto abre la puerta a una nueva generación de empresas emergentes, como AgentOps y OneReach.ai.

Jim Liddle, director de innovación de IA y estrategia de datos de la empresa de almacenamiento en nube híbrida Nasuni, cuestiona la probabilidad de que los grandes hiperescalares ofrezcan servicios de gestión para todos los agentes. “El principal desafío de los marcos de agentes es que cada proveedor adopta un enfoque fundamentalmente diferente de la arquitectura de agentes, la gestión de estados y los protocolos de comunicación. A medida que los proveedores impulsen sus propios marcos y agentes, las empresas se enfrentarán a retos de adopción, incluido un aumento significativo de la deuda técnica y los gastos generales de mantenimiento”, afirma Liddle. “No veo que surja un único marco que unifique a todos los agentes, lo que hace que esta complejidad sea una realidad constante”.

Mientras tanto, los proveedores empresariales que están implementando servicios de IA basada en agentes como parte de sus ofertas estrella defienden un enfoque basado en plataformas para la gestión de agentes. “Gestionar la IA basada en agentes a escala es un desafío multidimensional. Un reto de gobernanza, operacional, ético y de integración a la vez”, dice Chris Bedi, director de atención al cliente y asesor de IA empresarial en ServiceNow. “Para gestionar la IA basada en agentes, se necesita una plataforma que pueda unir agentes de IA, datos y flujos de trabajo, con un único modelo de datos, que lleve la IA a todos los rincones de la empresa y aborde todos estos desafíos”.

En cualquier caso, Debojyoti Dutta, vicepresidente de ingeniería de Nutanix, afirma que será necesario que toda la alta dirección haga que todo funcione de forma conjunta y segura. “Estamos en las primeras etapas de la transformación multiagente de la empresa. Hoy en día, cada agente de IA se construye y opera de forma personalizada. Esto supondrá un quebradero de cabeza operativo para la alta dirección”, afirma Dutta. “El CIO necesita herramientas e infraestructura para operar estos agentes, el CDO necesita garantizar una gobernanza adecuada de los datos, el CLO necesita garantizar el cumplimiento y la gobernanza de la IA en general, el CISO necesita garantizar medidas para proteger la empresa. El CAIO, junto con los demás CXO, necesita trabajar en conjunto para garantizar que esta ola agentica produzca retornos comerciales reales de esta inversión en IA, al tiempo que protege la empresa y mantiene los costos bajo control”.

Aunque la IA basada en agentes es todavía una tecnología incipiente, Coshow, de Gartner, afirma que hay directores de informática que ya están preocupados por este complejo asunto. “Los directores de informática están siendo muy cautelosos y reflexivos con respecto a la implementación porque hay cuestiones de seguridad, gubernamentales, de gobernanza, de precisión y de rendimiento que aún deben resolverse”, afirma.