La IA agentiva y el pensamiento crítico: cómo pasar del dato a la decisión autónoma impulsando los negocios 

El impacto del auge de los agentes de IA, a tenor de lo relatado por los asistentes al debate, realizado el pasado 3 de junio en Madrid y moderado por Esther Macías, directora editorial de CIO ESPAÑA, no se va a hacer esperar en nuestro país. Desde un agente multiconversacional capaz de vender un coche desde la web al usuario final hasta aquellos que ayudan a los médicos a analizar imágenes, los responsables tecnológicos de distintas organizaciones fueron desgranando los casos de uso que sus empresas ya han puesto en marcha o esperan arrancar en los próximos meses. 

Algunas de ellas emplean los agentes en procesos de back-office, otras automatizan procesos en las aduanas, y otras buscan servirse de esta tecnología para atender las demandas de estudiantes, que buscan profesores disponibles 24 horas para resolver sus dudas antes de los exámenes. No en vano, la inteligencia artificial agentiva propone introducir sistemas altamente automatizados capaces de percibir información, tomar decisiones y actuar con mínima intervención humana. 

Sin embargo, todo esto no es posible si no aseguramos la calidad y el control del dato. “La IA agentiva es la punta del iceberg. Para construir algo positivo tenemos que basarnos en algo sólido”, explicó Sergio Rodríguez, director de tecnología de Puedata, consultora especializada en proyectos de datos e IA. Para este experto, la clave para una mayor adopción de esta tecnología residirá en encontrar casos de uso que no se puedan resolver de forma tradicional. Su compañera Lucía Ferrer, directora comercial de la compañía, explicó que su compañía atraviesa un “momento dulce” ante el aumento de la demanda de proyectos de datos, algo en lo que la firma lleva trabajando diez años. “Hoy algunos CEO piden hablar con los datos en tiempo real en lenguaje natural”, explicó. 

Juan Márquez | Foundry. En la imagen, Sergio Rodríguez de Guzmán (Puedata).

No obstante, remarcó la importancia de trabajar con datos de calidad para que los modelos sean operativos. “Los proyectos de IA tienen una tasa de abandono muy alta porque el usuario se cansa. Si el modelo responde mal, lo abandonas”, añadió. 

Patricia Novo, ejecutiva de cuentas en Databricks, explicó que su compañía, pionera en el concepto ‘lakehouse’, se enfoca en desarrollar casos de uso en un momento donde la IA agentiva está lista para escalar. “Invertimos mucho en los asistentes para que los usuarios puedan interactuar en lenguaje natural”, aseveró. “Un sistema agentivo son inteligencias artificiales pilotadas por un máster. Hay que evaluar cómo funciona, hay que ponerles jueces y esos jueces son otra IA. El reto es cómo evaluar ese sistema”, añadió. 

Retos: talento, velocidad y miedo al cambio 

El encuentro también abordó los principales retos a los que debe hacer frente una organización para implantar agentes de IA. Para Ubaldo González, CDO (director de datos) de Mapfre España, el principal de ellos es el talento. “Hacemos un esfuerzo sobrehumano por atraerlo y retenerlo, pero es que además os encontramos resistencia al cambio incluso en el propio talento”, aseveró. “Con la IAG somos capaces de hacer el trabajo tres veces más rápido, pero los programadores tradicionales están viendo una amenaza en ella”, explicó. 

Un reto que se extiende también al ámbito académico. Luis Miguel Garay, director de Ciencias de la Computación y Tecnología de la Universidad Internacional de La Rioja (UNIR), explicó que los alumnos buscan profesores con experiencia en esta materia, algo difícil de encontrar. “Hay que gestionar la ansiedad que genera la IA en los CEO, pero también en los alumnos”, afirmó. 

Juan Márquez | Foundry. En la imagen, Patricia Novo (Databricks).

Otro reto es la velocidad a la que desarrolla esta tecnología, que complica su adopción para algunas organizaciones. “Si te metes a hacer personalizaciones de agentes, has perdido el tren, y la inversión”, apuntó Marta Salas, directora de IA en la Universidad Francisco de Vitoria. 

“Cuando la educación va más rápido que la tecnología, se genera prosperidad. Cuando es al revés se genera sufrimiento”, dijo Antonio Serrano, coordinador de digitalización e innovación de la Universidad Rey Juan Carlos I. El académico, también abogado y empresario, explicó que la correcta implantación de la inteligencia artificial agentiva para necesariamente por cuatro “es”: esfuerzo, excelencia, ética y educación. 

Otro reto apuntado por los asistentes es combinar las altas expectativas generadas por la IA agentiva en los comités de dirección con la fría acogida por parte de algunos empleados. “El reto no es convencer a la alta dirección, sino más bien frenarlos, porque cuando llega al resto de la organización y tiene que cambiar su forma de trabajar no es tan fácil implicarlos”, sostuvo Carlos Garriga, CIO de IE University. 

“Todo el mundo quiere probar, darle al botón. El negocio pide magia, pero para eso es necesario tener inteligencia de la buena. Si los datos no tienen calidad es difícil sacarle partido a la IA”, dijo Cristina Cid, subdirectora de Transformación Tecnológica de Correos, quien coincidió también en apuntar a la velocidad de esta tecnología como uno de los principales obstáculos para su implantación. 

Juan Márquez | Foundry

Pensamiento crítico: la clave para gobernar la IA generativa 

En lo que todos los asistentes coincidieron fue en la importancia del pensamiento crítico para gobernar la inteligencia artificial generativa. “Hay que saber ser crítico con lo que la IA generativa te ofrece. El humano todavía es extremadamente necesario. Si no eres crítico, esta tecnología puede ser insostenible”, dijo Sergio Rodríguez, CTO de PueData. 

“La realidad es que nos creemos directamente lo que sale de la IA generativa. Está diseñada para ello”, dijo Marta Salas, quien reveló que un estudio de Microsoft demuestra que un porcentaje muy alto de la población da por buenos los resultados que saca Copilot sin hacer posteriores comprobaciones. “Hay que transformar los interfaces para que nos ayuden a tener pensamiento crítico”, subrayó.  

Mariano Ventosa, vicerrector de Profesorado, Investigación e IA de la Universidad Pontificia de Comillas, expresó también por su preocupación antes los costes que puede tener la IA agentiva en un escenario donde los precios suban si hay pocos proveedores. Un aspecto que, sin embargo no preocupa a Patricia Novo. “Hemos visto a los hiperescalares preocuparse por la energía que necesitaban los data centers y al final DeepSeek ha demostrado que no hace falta tanta energía. Mi sensación es que la IA se va a hacer más eficiente. Hay un movimiento open source muy fuerte y Databricks aboga por ello”, afirmó. 

Para Jesús Domínguez, arquitecto empresarial principal de Roche, el principal reto está en la integración de los datos, mientras que para Sergio López Salazar, responsable de la oficina tecnológica de proyectos de Lefebvre, está en convencer a mucha gente del valor de la IA generativa. “Tenemos que gestionar las expectativas del Comité de Dirección”, añadió Joaquín Corral, director global del servicio de sistemas de TI de Avolta. 

En suma, distintos retos para afrontar un salto que ya parece inevitable. Del dato a la decisión autónoma de la mano de la IA agentiva, una tecnología que permitirá acercarnos al futuro el futuro optimizando operaciones si somos capaces de resolver con eficiencia los retos que aún presenta en 2025.