La soberanía digital, clave para acelerar el uso seguro de la IA generativa

¿Cómo adaptarse a los cambios que supone la irrupción de la inteligencia artificial generativa en el seno de las empresas? ¿Qué riesgos comporta en el día a día de las organizaciones? Para muchas de ellas, la IA generativa es “una ola” que nos está “pasando por encima”, a la que no es fácil adaptarse porque muchas veces llega “sin comprarla” y sin que desde la dirección se haya establecido un proceso claro de adaptación a los procesos productivos. De todo ello se habló en un almuerzo de trabajo organizado el pasado 11 de noviembre por CIO ESPAÑA con la colaboración de Red Hat y Accenture, que fue moderado por Fernando Muñoz, director del CIO Executive España y en el que responsables tecnológicos de distintas organizaciones compartieron su punto de vista sobre estas herramientas y sobre el concepto de soberanía digital, cada vez más relevante para las compañías.

Manuel Tarrasa Sánchez, CIO y CTO de TuringDream, apuntó tres grandes retos para la adopción de la inteligencia artificial generativa. “El primero —apuntó— viene desde arriba, porque el consejo de Administración ejerce presión para que se use la IA”. “El problema es que las empresas no encuentran gente que sea capaz de aunar conocimientos de IA y de negocio”, explicó. La solución a su juicio pasa por habilitar centros de competencia para formar los profesionales adecuados. “El segundo problema —prosiguió— es que la IA también llega desde abajo. Los empleados se dan cuenta de que puede ser un acelerador de su carrera y, aunque las empresas cierren el acceso a ChatGPT, los trabajadores lo llevan en el móvil”.   

El tercer problema, señaló, viene de las alucinaciones. Entre el 10 y el 30% de los modelos las sufre, aunque esto es algo que, en su opinión, se va a poder solucionar con las IA agentivas. El experto también apuntó otros de los grandes riesgos de instalar proyectos piloto, que la persona que lo haya instalado abandone la organización. “El mayor riesgo está en garantizar la continuidad del servicio”, remarcó.

Garpress | Foundry

Emilio González, jefe de sistemas del Ayuntamiento de Alcorcón, advirtió de los peligros que entraña la ‘shadow AI’, el uso no autorizado de herramientas de inteligencia artificial dentro de una organización sin la supervisión del departamento de TI. “Tenemos que dar formación a personas para que no suban a la IA documentos confidenciales”, aseguró. “Con la IA somos superfuncionarios, pero el apartado de protección de datos persiste como el principal reto”, dijo González, quien apuntó también otro desafío: la rápida obsolescencia de las inversiones en IA.

De la protección de datos habló también Raquel Pardiñas, gerente de suministro y proveedores de TI de Atradius Crédito y Caución, quien señaló que, aunque la IA generativa sirve para ganar tiempo en tareas administrativas, muchas veces sus usuarios desconocen si están incumpliendo la Ley de Protección de Datos. “Es el principal desafío”, enfatizó.

Ana Arredondo Macua, CIO de la Oficina Española de Patentes y Marcas, describió la situación la que se enfrenta una institución como la suya. “Un examinador de patentes puede tardar 18 meses en conceder una. La IA es muy útil para reducir este tiempo, pero el examinador tiene miedo a perder su trabajo, a no ser relevante”, relató. También habló de la necesidad de interoperabilidad, algo clave en una institución que comparte información y patentes con otros estados. “La fecha de una patente es crucial, por lo que el intercambio de información es imprescindible”, dijo tras señalar que la IA aporta una base de información para ser más eficiente.

Garpress | Foundry

Propuesta de valor, no de riesgo

Sobre todos estos desafíos, Julio Sánchez Miranda, líder de la práctica de Red Hat en Accenture para EMEA, fue contundente. “La inteligencia artificial se tiene que enfocar a valor, no a riesgo. Eso va a cambiar la narrativa”, dijo. “Hay que establecer claramente el objetivo, saber lo que quiero. Es una tecnología incipiente que si no pruebas y testeas no terminas de conocer”, añadió Mar Santos, directora de ventas corporativas de Red Hat. 

Julio Sánchez introdujo también uno de los principales temas del debate: la soberanía digital. Sobre este punto, recordó que el 80% de los modelos funcionales de la IAG son americanos, un 15% chinos y solo un 5% europeos. “El concepto de soberanía es control, y hoy es un tema geopolítico”, remarcó. En su opinión, hay que tener claros los términos de contrato en los que se usa la IA y conocer qué empresas y cómo garantizan la protección de los datos. “Si usas datos personales de tus clientes en plataformas como ChatGPT puedes tener un problema”, advirtió.

En esa misma línea se expresó Nilley Gómez Rodíguez, líder de Data & AI de Reale Seguros, quien explicó cómo su compañía ha cortado el acceso a ChatGPT para asegurar con un modelo propio de IA generativa el cumplimiento normativo. “Creamos un programa que pueda ser usado para el negocio, ofreciendo formación a los usuarios”, dijo tras subrayar que el principal desafío en los próximos meses será la generalización del uso de la IA agentiva. “Para el usuario tiene que ser transparente”, aseveró.

Garpress | Foundry

Desde la Universidad Complutense de Madrid, José Arbues Bedia, director del Centro de Inteligencia Institucional, explicó cómo su institución trabaja en una triple vertiente, empleando IA para la docencia, la gestión y el análisis de datos. No obstante, apuntó su desconfianza en un modelo que, a su juicio, aún no vale por sí solo. “La IA generativa trabaja con modelos literales y cuenta muchas mentiras”, dijo.

“Estoy trabajando en no trabajar, pero aún es demasiado pronto para ello”, dijo tras subrayar que “la única palanca de cambio en la Administración es la transparencia”. En su opinión, es demasiado arriesgado tener una IA propia para la universidad. “Con SAP sí puedo garantizar unos resultados, pero no con la inteligencia artificial”, dijo.

Para Carlos Maza, director de Digitalización y Tecnologías de la Información del Tribunal de Cuentas, los proyectos de IA los deberían pagar los departamentos de Recursos Humanos y Formación. “Ahora es el momento de conocer y aprender”, dijo, no sin antes señalar que la IA “está entrando sin comprarla” a través de muchas herramientas que ofrecen servicios incluidos en sus suscripciones.

Soberanía digital: el papel de Europa

Los asistentes analizaron también el lugar de Europa en un escenario donde la soberanía digital se ha convertido hoy en una prioridad política. “Determinar dónde reside el dato nos puede parecer una pregunta cómica, pero no lo es para el Derecho que nos regula”, dijo Carlos Maza, quien apuntó que, para una institución como el Tribunal de Cuentas, que maneja datos de terceros, la confidencialidad de los mismos es clave para el funcionamiento.

“Europa va lenta en IA. El enfoque será el correcto, pero no es competitivo, y sin recursos no estamos al nivel de otras regiones”, dijo Emilio González. Para Manuel Tarrasa, los principales problemas residen en la velocidad y la escala, que hacen que la distancia se agrande día a día. Pierre Pita, el director de ventas de TI de Atradius Crédito y Caución, apuntó una línea de actuación. “La legislación DORA nos obligó a hacer mucho trabajo, pero nos da una capa extra de seguridad”, dijo.

Garpress | Foundry

Julio Sánchez explicó que Red Hat trabaja en un entorno de ‘confidential computing’, una tecnología que protege los datos en uso mediante el procesamiento en entornos seguros. “Es relevante gobernar los modelos en entornos controlados”, enfatizó. En esta línea, citó un estudio según el cual al menos un tercio de las cargas de IA deberían ser ejecutadas en entornos soberanos para proporcionar valor a la organización.

“En el futuro —concluyó— apostamos por crear modelos verticales customizables y pequeños que ayuden a optimizar las infraestructuras y a reducir costes”. “La IA ha venido para quedarse. Es un reto para todos, pero Red Hat está en el camino correcto para ayudar a usar la IA de forma controlada en riesgos y costes”, añadió Mar Santos.