La confianza y la colaboración entre humanos y la IA definirá la próxima era de IA basada en agentes

El último informe del Instituto de Investigación de Capgemini, El auge de la IA agéntica: por qué la confianza es clave para la colaboración entre humanos e IA, concluye que la IA basada en agentes está preparada para aportar hasta 450.000 millones de dólares en valor económico para 2028.

Esa oportunidad de 450.000 millones de dólares incluye tanto el aumento de ingresos como la reducción de costes, impulsados por la implementación de agentes de IA semiautónomos y totalmente autónomos. Se ha comprobado que la adopción a gran escala tiene un potencial mucho mayor, ya que se prevé que las organizaciones con una implementación a gran escala generen aproximadamente 382 millones de dólares de media en los próximos tres años, mientras que otras pueden obtener alrededor de 76 millones de dólares.

La preparación para la IA sigue siendo un desafío

Tal y como se puede leer en el informe, en la actualidad la mayoría de las organizaciones no está preparada para ampliar de forma efectiva la IA basada en agentes. El 80% carece de una infraestructura de IA madura, y menos de una de cada cinco reporta altos niveles de preparación en el uso de datos. Las preocupaciones éticas —como la privacidad de los datos, el sesgo algorítmico y la falta de explicabilidad— siguen siendo generalizadas, pero pocas organizaciones están tomando medidas decisivas.

Para aprovechar todo el potencial de los agentes de IA, las organizaciones deben ir más allá del entusiasmo inicial, recomienda el informe. Es necesario avanzar hacia el rediseño de procesos y la reinvención de los modelos de negocio, transformar la estructura organizativa y encontrar el equilibrio adecuado entre la autonomía de los agentes y la implicación humana.

La confianza disminuye

Sin embargo, tal y como destaca el informe, sólo el 2% de las organizaciones ha logrado una implementación a escala completa y la confianza en los agentes de IA está disminuyendo. Las organizaciones están descubriendo que los agentes de IA generan el mayor impacto cuando los humanos se mantienen activamente involucrados. Casi tres cuartas partes de los ejecutivos afirman que los beneficios de la supervisión humana superan los costes, y el 90% considera que la participación humana en los flujos de trabajo impulsados por IA es positiva o neutra desde el punto de vista de los costes

El informe también destaca que la brecha entre la intención y la preparación se ha convertido en uno de los mayores obstáculos para materializar esa oportunidad económica.

Hay que recordar que la IA basada en agentes es una de las tendencias tecnológicas de más rápido crecimiento, pero las organizaciones aún se encuentran en las primeras etapas de aplicación. Según constata el informe, aunque casi una cuarta parte ya ha puesto en marcha proyectos piloto y una pequeña proporción (14%) ha comenzado con su implementación, la mayoría todavía permanece en fase de planificación. Este avance gradual contrasta con la ambición de los ejecutivos: casi todos los líderes empresariales (93%) creen que ampliar el uso de los agentes de IA en los próximos 12 meses les dará una ventaja competitiva, pero casi la mitad de las organizaciones aún carece de una estrategia para implementarlos.

Franck Greverie, director de Cartera y Tecnología, de Líneas de Negocio Globales y miembro del Comité Ejecutivo del Grupo en Capgemini, ha declarado acerca de las conclusiones del informe que “para tener éxito, las organizaciones deben permanecer centradas en los resultados, reimaginando sus procesos con una mentalidad centrada en la IA. Un elemento central de esta transformación es la necesidad de generar confianza en la IA, garantizando que se desarrolle de manera responsable, con principios éticos y de seguridad incorporados desde el inicio. También implica rediseñar las organizaciones para favorecer una colaboración eficaz entre humanos e IA, creando las condiciones adecuadas para que estos sistemas potencien el juicio humano y contribuyan a lograr mejores resultados empresariales”.

Otra de las conclusiones del informe es que las organizaciones dan prioridad a la transparencia a medida que se amplía la brecha de confianza en la IA basada en agentes. En este sentido, la confianza en los agentes de IA totalmente autónomos ha caído drásticamente, pasando del 43% al 27% sólo en el último año. Casi dos de cada cinco ejecutivos creen que los riesgos de implementar agentes de IA superan los beneficios. Sólo el 40% de las organizaciones afirma confiar en que los agentes de IA puedan gestionar tareas y procesos de forma autónoma, mientras que la mayoría no confía plenamente en esta tecnología.

Asimismo, el informe revela que, a medida que las organizaciones pasan de la fase de exploración a la de implantación, la confianza en los agentes de IA aumenta: el 47% de las organizaciones en fase de implementación presenta un nivel de confianza superior al promedio, frente al 37% de aquellas que aún están en fase de exploración. Por ello, las organizaciones están dando prioridad a la transparencia, la claridad sobre cómo los agentes de IA toman decisiones y la incorporación de salvaguardas éticas para impulsar una mayor adopción.

La importancia de la química entre humanos e IA

Como clave para una adopción duradera de la IA basada en agentes, el informe refuerza la idea de que dichos agentes ya no pueden considerarse simplemente herramientas, sino que están pasando a ser participantes activos dentro del equipo.

Es más, concluye también que la verdadera promesa de la IA basada en agentes reside en abordar los desafíos empresariales fundamentales y reimaginar la forma en que se realiza el trabajo. En los próximos 12 meses, más del 60% de las organizaciones espera conformar equipos humano-agente, en los que los agentes de IA funcionen como subordinados o bien como ampliadores de las capacidades humanas. Esto implica que los agentes de IA

Incluso, el 70% de las organizaciones cree que los agentes de IA requerirán una reestructuración organizacional, lo que está llevando a los líderes a replantearse las funciones, las estructuras de los equipos y los flujos de trabajo. Las empresas están descubriendo que los agentes de IA aportan más valor cuando los humanos se mantienen involucrados en el proceso. Con una colaboración eficaz entre humanos y la IA, las organizaciones esperan un aumento del 65% en la dedicación a tareas de alto valor, un incremento del 53% en la creatividad y una mejora del 49% en la satisfacción de los empleados.

A corto plazo, se espera que los agentes de IA tengan su adopción más amplia en áreas como atención al cliente, TI y ventas, con una expansión prevista hacia operaciones, I+D y marketing en los próximos tres años. Sin embargo, la mayoría de las implementaciones aún se encuentran en etapas tempranas de autonomía: solo el 15% de los procesos empresariales opera actualmente en niveles de autonomía parcial o total. Aunque se espera que esta cifra aumente al 25% para 2028, la mayoría de los agentes hoy en día funcionan como asistentes basados en reglas o copilotos, apoyando tareas rutinarias en lugar de gestionar flujos de trabajo complejos de forma independiente.