Los CIO buscan perfeccionar la gobernanza de la IA a pesar de las dudas

A medida que más proyectos de IA generativa pasen de la prueba de concepto a la fase de producción, los CIO experimentarán mayor presión para establecer políticas de gobernanza de esta tecnología con el fin de proteger no sólo a su empresa sino también sus puestos de trabajo.

El gobierno estadounidense y la Unión Europea, así como los principales analistas del mercado, ofrecen numerosos marcos de gobernanza de la IA, pero no cabe duda de que, a medida que la innovación en IA generativa sobrepase las normas en vigor, en 2025 los CIO tendrán que establecer y perfeccionar las políticas internas de gestión de la IA e implicar a la alta dirección de su organización en el proceso para asegurarse de que no son los únicos responsables, indican los expertos.

En este punto, entran en juego los desequilibrios jurisdiccionales. “En cuanto al establecimiento de políticas de IA responsables y la creación de códigos de conducta, las organizaciones estadounidenses están al mismo nivel que las europeas, según una encuesta de febrero de 2024, pero las primeras van a la zaga de las segundas en el establecimiento de comités de gobernanza multidisciplinares/interdepartamentales, tal y como recomienda la Ley de IA de la UE”, afirma Grace Trinidad, directora de investigación de IDC, que insta a los CIO a no asumir la gobernanza de la IA en solitario.

IDC recomienda seguir las indicaciones tanto del Marco de Gestión de Riesgos de IA del NIST, en el caso de las organizaciones de Estados Unidos, como las disposiciones de la Ley de IA de la UE, en el caso de las europeas, según Trinidad, que recuerda las mejores prácticas para algunos aspectos de la gobernanza de la IA en el estudio “IDC PeerScape: Practices for Securing AI Models and Applications”.

Los CIO reconocen que existen múltiples formas de implantar la gobernanza de la IA y la mayoría han empezado a aplicar al menos algunos programas, aunque no todas las piezas están en su sitio, señala Trinidad. En este sentido, Craig Williams, director de información digital de Ciena, afirma que la empresa de redes ha creado grupos de trabajo sobre IA para resolver los problemas de gobernanza. “No veo un futuro en el que la gobernanza de la IA pertenezca a una sola entidad o al propio gobierno: es demasiado difícil. Las empresas, sin embargo, tienen que establecer sus propios procesos de gobernanza para garantizar la responsabilidad de principio a fin”, afirma. “Reconocemos la necesidad de transparencia, equidad y responsabilidad en los sistemas de IA. Por ello, hemos hecho todo lo posible para garantizar la participación de las partes interesadas adecuadas en el propio proceso de gobernanza”.

Ese esfuerzo interfuncional es clave, afirman los expertos y los responsables de TI. “La gobernanza consiste realmente en escuchar y aprender unos de otros, ya que a todos nos importa el resultado, pero es igual de importante cómo llegamos al resultado en sí”, afirma Williams. “Una vez que cruzas ese puente, puedes pivotar rápidamente hacia las herramientas de IA y los proyectos reales en sí, que son mucho más fáciles de gestionar”.

Una empresa que está lidiando con el establecimiento de un programa integral de gobernanza de la IA es la norteamericana TruStone Financial Credit Union. “Cada semana surgen nuevas plataformas y capacidades de IA generativa. Cuando las descubrimos, bloqueamos el acceso hasta que podemos evaluar a fondo la eficacia de nuestros controles”, dice Gary Jeter, vicepresidente ejecutivo y director de tecnología de la firma, señalando, como ejemplo, que decidió bloquear el acceso a NotebookLM de Google inicialmente para evaluar su seguridad.

Como muchas empresas, TruStone ha desplegado en toda la compañía una plataforma de IA generativa para políticas y procedimientos denominada TruAssist. “Los [aproximadamente] 560 miembros del equipo utilizan esta herramienta de IA para acceder rápidamente a más de 500 políticas y procedimientos, lo que supone un importante ahorro de tiempo y un enorme valor añadido”, afirma Jeter. “Lanzamos la prueba piloto de valor en noviembre de 2023 y la extendimos a todos los miembros del equipo en febrero de 2024. Fue muy rápido y hemos aprendido mucho. Estamos adoptando un enfoque más conservador de aprovechar la IA generativa para las aplicaciones orientadas a los miembros, pero estamos progresando”.

¿Los retos? “Las directrices sobre IA varían según las regiones y los sectores, lo que dificulta el establecimiento de prácticas coherentes”, afirman desde Gartner.

Marcos y plataformas de gobernanza de la IA

Travelers es otra gran empresa que ha estado desarrollando su estrategia de gobernanza de IA durante algún tiempo, desvela Mojgan LeFebvre, vicepresidente ejecutivo y director de tecnología y operaciones de la compañía. “Como parte de la constante evolución y maduración del marco de gobernanza de Travelers, también hemos establecido un Marco de Inteligencia Artificial Responsable que establece principios fundacionales para guiar nuestro desarrollo y uso de IA, análisis avanzados y modelado”, explica. “El objetivo de este marco es ayudar a garantizar que actuamos de manera responsable y ética, en consonancia con los valores empresariales responsables en el corazón de nuestro negocio y cultura”.

La gobernanza de la IA no solo consiste en proteger a la empresa de la fuga de datos o el robo de propiedad intelectual, sino también en mantener los costes alineados con los presupuestos, señalan los expertos. Los responsables de TI deben adoptar un “despliegue muy pragmático –deliberado y lento– para la producción de aplicaciones de IA generativa porque los ejecutivos y los informáticos aún están aprendiendo a gestionar el riesgo de una aplicación empresarial probabilística y porque hay costes reales que aumentan con el uso”, afirma Paul Baier, CEO y analista principal de GAI Insights.

Otro factor que aumenta el riesgo y los costes de la IA generativa es el auge de la ‘TI en la sombra’ o ‘shadow IT’ en la mayoría de las organizaciones, ya que los empleados utilizan cuentas personales para usar herramientas como ChatGPT con datos de la empresa”, indica Baier.

Una forma en que las organizaciones pueden controlar el uso de la IA es mediante la implementación de una plataforma de gobernanza de la IA, según Gartner, que identificó esta tecnología como su tendencia estratégica número 2 para 2025, prediciendo que para 2028 las organizaciones que implementen plataformas de gobernanza de la IA experimentarán un 40% menos de incidentes éticos relacionados con esta tecnología en comparación con aquellas que no cuenten con dichos sistemas.

Los beneficios de las plataformas de gobierno de IA, según Gartner, incluyen la creación, gestión y aplicación de “políticas que garanticen el uso responsable de la IA, expliquen cómo funcionan los sistemas de IA, modelen la gestión del ciclo de vida y proporcionen transparencia para generar confianza y responsabilidad”.

¿Los retos? “Las directrices sobre IA varían según las regiones y los sectores, lo que dificulta el establecimiento de prácticas coherentes”, afirman desde Gartner.

El reto del futuro

Los CIO también tendrán que adoptar marcos de gobernanza de la IA capaces de adaptarse a los cambios que se avecinan, sobre todo si surge la inteligencia artificial capaz (IAC), dicen los expertos. El tiempo que llevará esto es una gran incógnita, sobre todo teniendo en cuenta los avances de la IA en los dos últimos años. La cuestión se complica no sólo por el complejo mosaico de normativas sobre IA que están surgiendo, sino también por los cambios en los modelos de negocio y en el propio mercado.

Cuando ChatGPT se estrenó hace dos años, los fundadores de OpenAI citaron la necesidad de que la IA generativa se gestionara adecuadamente como razón clave para que la empresa fuera sin ánimo de lucro. Desde entonces, todos los fundadores menos dos se han marchado y OpenAI está trabajando para reestructurar su actividad principal y convertirla en una empresa con ánimo de lucro que ya no esté controlada por su junta directiva sin ánimo de lucro.

Sid Nag, vicepresidente de tecnologías y servicios de infraestructura de nube, edge e IA en Gartner, dice que el Consorcio del Instituto de Seguridad de IA del NIST y el Centro para la IA Responsable han avanzado en la gobernanza de la IA desde 2021, pero no hay normas regulatorias aprobadas para guiar a los CIO que están bajo una presión cada vez mayor para salir de la experimentación y ganar dinero con las importantes inversiones en plataformas y herramientas de IA generativa.

Subraya que no existe un documento único que recoja todos los aspectos de los riesgos ni una autoridad clara que imponga el uso de la IA generativa, que avanza día a día. “La IA es un tren desbocado y todo el mundo intenta sacar tajada de ella”, afirma.

Aun así, es raro encontrar a un CIO u otro directivo que desestime la gobernanza de la IA. Las empresas grandes y pequeñas son muy conscientes de que la IA generativa en las manos equivocadas pueden derivar en un desastre. Antonio Marín, CIO de la empresa estadounidense de alquiler de equipos médicos US Med-Equip, afirma que la IA está permitiendo a su empresa crecer rápidamente, pero que todas las manos están puestas en la gobernanza. “Estamos incorporando la gobernanza de la IA como parte de nuestra gobernanza de datos y ciberseguridad”, indica, y añade que los riesgos aumentan cuando los POC pasan de la caja de arena a la producción. “En algunos casos, nuestros directivos ven la IA como una solución a algunos problemas de procesos. Ven la IA como una oportunidad para ganar cuota de mercado o reducir los costes operativos, manteniendo al mismo tiempo una alta calidad de la experiencia del cliente y la excelencia operativa”.

Jeter, de TruStone, espera que la supervisión se convierta en un requisito legal y reglamentario a su debido tiempo. “Veo a los auditores internos y externos como socios, con un propósito compartido que se alinea con nuestros valores”, dice Jeter. “Como resultado, no tengo ninguna preocupación”.