Cómo empezar a desarrollar una estrategia equilibrada de gobernanza de la IA

La mejor defensa es un buen ataque, ¿verdad? Cuando se trata de la gobernanza de la IA, las organizaciones necesitan ambas cosas. La razón es que las capacidades de la IA generativa evolucionan rápidamente, la publicidad acelera las inversiones y los riesgos de los datos se amplifican a través de las aplicaciones de IA. Este artículo analiza cómo reforzar su defensa mientras planifica e implementa un fuerte plan de gobernanza de IA.

Desarrollar su estrategia de gobernanza de IA

Las preguntas clave que hay que abordar en la gobernanza de IA incluyen qué cumplimiento normativo importante es necesario, qué datos pueden utilizarse en el entrenamiento de modelos de IA, qué datos no deben compartirse con LLM públicos y qué herramientas pueden utilizarse para desplegar agentes de IA. Hacer estas preguntas defensivas puede ayudar a proteger su organización.

Una ofensiva sólida guía los objetivos, resultados y capacidades empresariales en los que centrarse al aplicar la IA. Definir su estrategia ofensiva para la gobernanza de la IA ayuda a canalizar los esfuerzos de todos hacia áreas en las que la IA puede generar valor empresarial e impulsar la transformación digital.

“Nuestra forma de pensar sobre la gobernanza de la IA suele ser demasiado limitada, centrándose únicamente en el cumplimiento y la reducción de riesgos”, afirma Kurt Muehmel, director de Estrategia de IA de Dataiku. “La gobernanza es una fortaleza que garantiza que la IA esté alineada con los objetivos empresariales, se produzca de manera eficiente, siga las mejores prácticas internas, esté diseñada para la producción desde el principio y promueva la reutilización de componentes. La gobernanza de la IA, pensada de esta manera, se convierte no en una obligación, sino en un diferenciador competitivo”.

La ejecución de la gobernanza de la IA con estrategias de defensa y ataque requiere que los equipos de TI y de ciencia de datos aborden las deficiencias en la forma en que las organizaciones equilibraron la innovación y la gobernanza en el pasado:

• Muchos equipos de desarrollo impulsaron aplicaciones y luego añadieron seguridad hasta que las prácticas de desarrollo y seguridad ayudaron a impulsar una cultura de seguridad de cambio a la izquierda.
• Al principio, las organizaciones tenían miedo de utilizar nubes públicas, luego modernizaron agresivamente las aplicaciones para ellas, solo para poner en marcha disciplinas de finops después.
• Pregunte al director de datos (CDO) sobre los desafíos de asignar propietarios de datos y clasificar datos mientras los departamentos adoptan ciencia de datos ciudadana y se vuelven competentes en plataformas de análisis de datos.

Apuntar a las capacidades de IA sin instituir la gobernanza de IA es una receta para el desastre de IA.

El CDO lidera la gobernanza de IA

Muchas organizaciones consideran la gobernanza de la IA como una extensión de la gobernanza de datos y asignan al CDO la responsabilidad de definirla. Los CDO también tienen muchas responsabilidades relacionadas con los datos que son fundamentales para unas prácticas de IA seguras.

“La verdadera oportunidad de la gobernanza de la IA no radica en reducir el riesgo ético, normativo y empresarial: la gobernanza de la IA es necesaria para ayudar a las organizaciones a impulsar la confianza y la adopción necesarias para transformar el negocio utilizando la IA”, afirma Kjell Carlsson, director de Estrategia y Evangelización de la Ciencia de Datos en Domino. Para lograrlo, los CDO deben “proporcionar visibilidad, auditabilidad, reproducibilidad y control, e implementar plataformas que organicen, agilicen y, cuando sea apropiado, automaticen las actividades de gobernanza para que las personas puedan centrarse en reducir los riesgos en lugar de desperdiciar esfuerzos manuales”.

Henry Umney, director general de Estrategia GRC en Mitratech, afirma que las prioridades clave en la hoja de ruta de los CDO para la gobernanza de datos e IA deberían incluir:

• Crear una definición clara de IA dentro de la organización y categorizar los nuevos riesgos que introduce la IA.
• Crear un inventario de modelos de IA clasificados por impacto empresarial y riesgo regulatorio, como la Ley de IA de la UE.
• Comparar las estructuras de gobernanza y gestión de riesgos existentes con marcos como NIST AI RFM, añadiendo controles específicos de IA a los marcos existentes en toda la organización.

El papel del CDO no consiste únicamente en implementar estas prácticas; los CDO deben priorizarlas de manera efectiva y comunicar a las partes interesadas de la empresa cómo la gobernanza permite que los esfuerzos generen valor empresarial.

“La hoja de ruta de un CDO debe equilibrar la adopción de tecnologías transformadoras como la IA generativa con la necesidad crítica de mantener la soberanía de los datos”, afirma Jeremy Kelway, vicepresidente de Ingeniería de Análisis, Datos e IA de EDB. “Esto va más allá de la reducción de riesgos, ya que la soberanía de los datos abarca la gobernanza, la observabilidad y los límites jurisdiccionales, sentando las bases para estrategias ofensivas que impulsen el crecimiento, agudicen las capacidades competitivas y mejoren las experiencias de los clientes. Al garantizar que los datos adecuados estén seguros y se compartan de manera conforme con una comprensión clara de cómo los utilizan los modelos de IA, los CDO pueden aprovechar con confianza sus datos para obtener información en tiempo real que impulse la innovación”.

Incorporar a líderes empresariales y otras partes interesadas

Es posible que su organización necesite una estructura de datos si se utilizan muchas fuentes de datos en los modelos de IA. El director de Seguridad de la Información debe revisar las plataformas de gestión de la seguridad de los datos (DSPM) para proteger los almacenes de información confidencial o regulada en múltiples nubes, centros de datos y dispositivos periféricos. A continuación, añada capacidades de observabilidad, canalización de datos, catálogo de datos, plataforma de datos de clientes y gestión de datos maestros.

Es una inversión lo suficientemente importante como para hacer que a un líder empresarial se le dé vueltas la cabeza. Es importante disponer de muchas de estas herramientas y prácticas relacionadas y actualizarlas para apoyar la IA. Sin embargo, los CDO y los equipos de datos deben responder mejor por qué y por qué ahora o se arriesgan a perder el interés de las partes interesadas de la empresa.

Los CDO deben elaborar una declaración de visión de la IA, definir una estrategia de datos y gestionar una hoja de ruta que se alinee con un plan para impulsar las capacidades ofensivas de la IA.

“Desarrolle su estrategia de datos e IA y una cultura de IA rápida pero responsable desde el primer día, ya que añadirla más adelante es mucho más difícil y costoso”, afirma Ana-Maria Badulescu, directora sénior del laboratorio de IA, oficina del director de Tecnología de Precisely. “La hoja de ruta del CDO debe ir más allá de la gobernanza, proporcionando una solución integral que abarque la calidad de los datos, la observabilidad de los datos, el catálogo de datos, la seguridad y privacidad de los datos, el enriquecimiento de los datos con datos de terceros y la inteligencia de localización. Rompa los silos de datos creando consejos de gobernanza de datos y glosarios empresariales para garantizar un lenguaje común en toda la organización”.

Lo que puede ser obvio para los equipos de datos puede estar fuera de la vista y de la mente de las partes interesadas de la empresa. Heather Gentile, directora de gestión de productos de riesgo y cumplimiento de IA en IBM, sugiere reforzar que los resultados de un modelo son tan buenos como los datos en los que se basa y entrena. “La transparencia y la explicabilidad de la gobernanza también aceleran y escalan con éxito las iniciativas de IA y el impacto empresarial”, afirma Gentile.

Adoptar nuevas prioridades de gobernanza de datos de IA

Los CDO, la gobernanza de datos y los científicos de datos también deben tener en cuenta las capacidades específicas de la IA. Por ejemplo, modelops es la disciplina de supervisar los modelos de ML para detectar desviaciones y otras condiciones que requieran un nuevo entrenamiento. Para la IA generativa, los equipos de datos deben ser explícitos sobre qué datos se utilizaron para entrenar un LLM, RAG, agentes de IA y otras capacidades de IA.

“Una lista de materiales de datos de IA (AI DBoM) es la base para una IA responsable a escala y debe formar parte de la estrategia de gobernanza del CDO”, afirma Kapil Raina, evangelista de seguridad de datos de Bedrock Security. “Una AI DBoM rastrea todos los datos que alimentan los modelos de IA (entrenamiento, ajuste e inferencia), lo que garantiza una rápida ejecución de los proyectos con total transparencia sobre lo que los sistemas de IA acceden y generan. Sin ella, los CDO van a ciegas, expuestos a brechas de seguridad, incumplimiento del panorama regulatorio en rápida evolución e innovación atrofiada”.

Los CIO, CDO y equipos de TI también deben reconocer que lo que funcionaba como estrategia de datos previa a la IA puede necesitar mejoras y revisiones para acelerar las oportunidades de la IA. Las organizaciones que distribuyen importantes operaciones de datos y trabajo de calidad de datos a los equipos empresariales pueden considerar la centralización para impulsar la eficiencia y métricas de calidad de datos consistentes.

Rahul Auradkar, vicepresidente ejecutivo y director general de Servicios de Datos Unificados de Salesforce, afirma: “La reducción de la deuda tecnológica causada por los diferentes controles de gobernanza de datos, la clasificación y el etiquetado manual de los datos y el aumento de la toma de decisiones basada en datos han aumentado las prioridades de gobernanza de los CDO en la actualidad”.

Otra consideración es para las organizaciones de construcción, fabricación y servicios de campo con equipos operativos muy distribuidos que utilizan herramientas de gestión dispares y dependen de hojas de cálculo. Sus esfuerzos por consolidar las herramientas de flujo de trabajo pueden impulsar la eficiencia y allanar un camino más rápido hacia las capacidades de IA.

“Sin una gobernanza sólida, su personal debe luchar por encontrar la información que necesita para hacer su trabajo porque está atrapada en herramientas y silos de información”, dice Jon Kennedy, director de Tecnología de Quickbase. Este trabajo gris, dice, “socava la productividad y tiene un efecto dominó en la experiencia del cliente. A través de un proceso de consolidación, el departamento de TI puede abordar la expansión tecnológica, centralizar la información en una plataforma de gestión del trabajo y eliminar el trabajo gris mientras ejecuta su hoja de ruta de gobernanza de datos e IA”.

Elementos de una estrategia ofensiva en la gobernanza de la IA

Las prácticas que he compartido hasta ahora forman la estrategia defensiva de gobernanza de la IA. Aunque una buena defensa es la base, su estrategia de gobernanza de la IA va un paso más allá.

“La estrategia de gobernanza de datos e IA de un CDO debe hacer algo más que gestionar los riesgos: debe impulsar el crecimiento, la ventaja competitiva, mejorar la experiencia del cliente y crear nuevas oportunidades de mercado”, afirma Ed Frederici, director de Tecnología de Appfire. “Tratar los datos como un activo generador de ingresos y garantizar una interoperabilidad perfecta puede ayudar a escalar el negocio”.

Frederici recomienda las siguientes formas de mejorar su estrategia de gobernanza de IA con una buena ofensiva:

• Promover la eficiencia a través de la automatización impulsada por la IA y los mercados de datos internos.
• Generar confianza en los clientes y aumentar el compromiso a través de motores de personalización y una IA ética.
• Mejorar los servicios mediante el uso de IA predictiva para anticipar las necesidades y reducir la rotación.
• Acelerar el desarrollo de productos con conocimientos de mercado impulsados por la IA.
• Ayudar a las empresas a mantenerse a la vanguardia con la colaboración intersectorial y el intercambio estratégico de datos.

Las partes interesadas de las empresas pueden tratar los datos como activos cuando los líderes amplían la gobernanza de los datos y la IA a una estrategia y prácticas para desarrollar productos de datos. Los productos de datos pueden simplificar la forma en que los departamentos reutilizan los datos y las capacidades de IA de manera eficiente y crear oportunidades para desarrollar productos de datos y colaboraciones orientados al cliente.

“Al tratar la gobernanza como una capacidad integrada de los productos de datos en lugar de una capa de control independiente, las organizaciones pueden acelerar la innovación y el tiempo de generación de valor, al tiempo que mejoran su postura de riesgo a través de patrones estandarizados y reutilizables”, afirma Srujan Akula, director ejecutivo de The Modern Data Company. “Los productos de datos con controles de gobernanza integrados se convierten en poderosos bloques de construcción para el crecimiento que ayudan a lanzar nuevas soluciones para los clientes más rápidamente y a expandirse a nuevos mercados más fácilmente”.

Otra oportunidad es centrar las opciones de gobernanza de datos e IA en torno a las ventas y otras líneas de trabajo generadoras de ingresos. Jason Smith, director principal de Estrategia y Transformación de Conga, sugiere: “Los líderes de datos deben dar prioridad a las herramientas de gestión de ingresos basadas en IA que eliminan los silos entre departamentos y agilizan todo el proceso de ingresos, desde la propuesta hasta la generación de presupuestos y más”.

Algunos pueden argumentar que incluir estrategias ofensivas como parte de la gobernanza de la IA se filtra en el negocio general de la organización, la transformación digital o la estrategia de IA. Quizás esto sea algo bueno para que los líderes empresariales se entusiasmen con la ofensiva, ya que garantiza que también presten atención a la defensa.