“Puede utilizar la herramienta de inteligencia artificial (IA) que quiera para experimentar de la forma que quiera, utilizando los datos que quiera”, no ha dicho nunca ningún ejecutivo de empresa. Los líderes ejecutivos se centran en garantizar que los esfuerzos de IA se dirijan a las oportunidades de negocio, evitando al mismo tiempo los riesgos. Sin embargo, incluso los líderes más cautelosos son reacios a prohibir directamente la IA, porque si no se consiguen resultados transformadores impulsados por la IA se corre el riesgo de interrumpir el negocio.
Entre estos dos escenarios hipotéticos se encuentran los principios, prácticas, normativas, herramientas y responsabilidades que definen el modo en que las organizaciones intentan aprovechar las capacidades de la IA, cumplir las normativas y evitar riesgos costosos. La gobernanza de la IA se refiere a cómo las organizaciones desarrollan y documentan su modelo operativo de IA para que los empleados tengan directrices claras.
La gobernanza de la IA puede ser un simple documento que describa las políticas o un modelo operativo más amplio que describa las salvaguardas, el cumplimiento y los procedimientos. La forma en que las organizaciones definen la gobernanza de la IA depende de su tolerancia al riesgo, las normativas del sector y la cultura en torno a la innovación.
Para comprender mejor la gobernanza de la IA, considere cómo define su misión The AI Governance Alliance, una iniciativa del Centro para la Cuarta Revolución Industrial del Foro Económico Mundial. “Nuestro trabajo va más allá de la gobernanza, impulsando la innovación y las repercusiones prácticas en todos los sectores. Nos aseguramos de que la IA mejore las capacidades humanas, fomente el crecimiento inclusivo y promueva la prosperidad global”.
Establecer una misión y unos objetivos es un primer paso importante para definir la gobernanza de la IA. El siguiente paso debe ser responder a preguntas clave sobre dónde, cómo y por qué los empleados deben utilizar las capacidades de IA. A continuación, se presentan siete preguntas a tener en cuenta al desarrollar las políticas y procedimientos de gobernanza de la IA de su organización.
7 preguntas que definen la gobernanza de la IA
- ¿Cuáles son los objetivos y resultados empresariales deseados con el uso de la IA?
- ¿Qué normativas y requisitos de cumplimiento deben seguir los empleados al utilizar la IA?
- ¿Cómo utilizarán los empleados los conjuntos de datos en las herramientas y modelos de IA?
- ¿Cómo debe cambiar la gobernanza de datos de la organización para dar soporte a la IA generativa?
- ¿Qué copilotos y herramientas de IA pueden utilizar los empleados?
- ¿Cómo validarán los empleados los resultados de la IA?
- ¿Dónde deben ir los empleados para aprender más sobre IA?
¿Cuáles son los objetivos y resultados empresariales deseados con el uso de la IA?
¿Cómo quiere dirigir la empresa sus esfuerzos de IA? Definir la estrella polar de los objetivos prometedores y los resultados ideales del uso de la IA es un primer paso importante en la gobernanza de la IA.
“Muchas empresas se saltan el paso más importante cuando se trata de experimentar con la IA: identificar casos de uso específicos para esta tecnología”, afirma Steve Smith, director global de Proyectos Estratégicos de Esker. “En lugar de experimentar y desplegar la IA sin rumbo, una táctica común resultante de la exageración de la IA, las partes interesadas deben elaborar una estrategia clara y procesable”.
Hay un debate en curso sobre si la gobernanza de la IA debe entrelazarse con la estrategia de IA o definirse por separado. Otro enfoque consiste en actualizar la transformación digital y las estrategias empresariales con áreas de enfoque de IA en lugar de establecer una estrategia de IA independiente. Independientemente del enfoque, establecer los objetivos para el uso de la IA en su organización debe ser uno de sus primeros guardarraíles.
“Hay innumerables casos de uso para la experimentación de IA, pero para maximizar el tiempo y la energía, las empresas deben alinear las iniciativas de IA con objetivos estratégicos, centrándose en la evaluación de la calidad de los datos y la reducción de puntos de dolor operativos evidentes”, dice Shibu Nambiar, líder global de Negocios y Alta Tecnología, en Genpact. Más allá de abordar los retos obvios, “la implementación estratégica de la IA puede mejorar la experiencia del cliente, predecir el comportamiento del consumidor y gestionar las cadenas de suministro”.
¿Qué normativas y requisitos de cumplimiento deben seguirse al utilizar la IA?
Una vez que haya definido las metas y objetivos de su organización para el uso de la IA, un siguiente paso común es describir cómo se puede utilizar la IA.
“Las estructuras de gobierno ayudan a garantizar que los sistemas de IA cumplan con las regulaciones, evitando repercusiones legales y financieras”, dice Rahul Pradhan, vicepresidente de Producto y Estrategia en Couchbase. “Las empresas también deben adherirse a las regulaciones y estándares de la industria, incluidas las leyes de protección de datos como GDPR e HIPAA. Una gobernanza adecuada garantiza que se mantenga la privacidad de los datos y que se apliquen medidas de seguridad integrales para protegerse contra las violaciones de datos y las amenazas cibernéticas”.
Los líderes organizacionales deben tomar medidas para actualizar a los empleados sobre las regulaciones cambiantes y cómo impactan en los programas de innovación de IA. Los líderes también deben prestar atención a la información pública sobre cómo otras empresas están implementando la IA, incluidos los errores que conducen a la mala prensa. Estas historias son una oportunidad para discutir los riesgos de la IA y cómo evitarlos.
“Los organismos reguladores todavía están en una fase de experimentación con sus estrategias de gobernanza de la IA, pero en última instancia, la gobernanza de la IA comprenderá tres pilares: ética, privacidad y seguridad, y los tres son extremadamente complicados”, dice Bharat Guruprakash, director de Producto de Algolia. “Identificar las fuentes de datos y su uso será clave para comprender las amenazas de la IA y poner los guardarraíles adecuados”.
Dado que las regulaciones y los riesgos están evolucionando, las organizaciones deben planificar la actualización de sus políticas de gobierno de IA y comunicar los cambios a los empleados.
¿Cómo utilizarán los empleados los conjuntos de datos de las herramientas y modelos de IA?
Una de las grandes cuestiones que debe abordar la gobernanza de la IA es cómo los empleados pueden o no utilizar los datos de la empresa en las indicaciones cuando utilizan herramientas de IA generativa. Los científicos de datos también necesitan saber qué datos pueden utilizar para entrenar modelos de IA o en integraciones de generación aumentada de recuperación (RAG) con grandes modelos de lenguaje (LLM).
“Las empresas que adoptan modelos de IA generativa deben pensar en qué tipo de datos se utilizaron para entrenar el modelo, cuál es la calidad, cuál es la licencia y cuáles son los sesgos potenciales”, dice Dror Weiss, fundador y CEO de Tabnine. “Otro aspecto importante a tener en cuenta es la seguridad y la privacidad de los datos. ¿Qué tipo de datos empresariales enviaremos para consultar los modelos de IA? Podemos compartir estos datos con una parte externa y, en caso afirmativo, ¿qué hace el proveedor del modelo con nuestros datos?”.
Muchos empleados tienen poca comprensión de los riesgos del mal uso de la IA y el cumplimiento de los datos, por lo que es fundamental explicar por qué detrás de las políticas de cumplimiento de datos.
“Equivocarse conlleva implicaciones éticas significativas relacionadas con el uso indebido de datos y las regulaciones globales de privacidad”, dice Brian Stafford, presidente y CEO de Diligent. “Mantenerse informado y en cumplimiento requiere un marco de gobierno de IA bien construido y mantenido que incluya la inversión tanto en el software adecuado como en la educación para el liderazgo de la organización”.
Muchas organizaciones definen la gobernanza de la IA como una extensión de la gobernanza de datos, que describe las políticas y procedimientos para trabajar con la propiedad intelectual de la organización, los datos confidenciales, los datos sensibles y otros conjuntos de datos restringidos.
“Si bien muchas estrategias de gobierno de datos se pueden adaptar para satisfacer las necesidades de gobierno de IA, una que funciona bien sin adaptación considera los cuatro ‘qué’ y ‘cómo’ del gobierno de datos”, dice Joe Regensburger, vicepresidente de Investigación de Immuta.
Regensburger recomienda responder a las siguientes preguntas para garantizar la salud y calidad de los datos de los modelos de IA generativa:
- ¿Qué datos se utilizan para entrenar los modelos IA generativa, incluidos los GAR utilizados con los LLM?
- ¿Cómo se entrena y prueba el modelo?
- ¿Qué controles existen sobre los modelos de IA desplegados?
- ¿Cómo podemos evaluar la veracidad de los resultados de los modelos de IA?
Los científicos de datos también necesitan un conjunto de directrices sobre las muestras de datos utilizadas para entrenar los modelos. La gobernanza de la IA debe definir los requisitos para evitar datos de entrenamiento sesgados y proporcionar transparencia a las partes interesadas internas sobre las prácticas de desarrollo de modelos.
“Es fundamental seleccionar datos que reflejen con precisión toda una población para garantizar que se generen resultados de calidad”, afirma Sanjeev Sawai, director de Tecnología de mPulse. “Trabajar con conjuntos de datos diversos y establecer mejores prácticas que controlen constantemente las imprecisiones puede crear modelos de IA más equitativos y transparentes que ofrezcan mejores experiencias a sus usuarios”. “La responsabilidad de una política de uso y formación adecuada de la IA recae en última instancia en las organizaciones para evitar resultados sesgados o un uso indebido”.
¿Cómo debe cambiar la gobernanza de datos de la organización para apoyar a la IA generativa?
La gobernanza de la IA también requiere revisar y ampliar la gobernanza de los datos. Las áreas en las que centrarse son cómo las herramientas de gobierno de datos, incluidos los catálogos de datos, la calidad de datos, los conductos de datos, la gestión de datos maestros y los perfiles de datos de clientes, ahora deben proporcionar soporte ampliado para las fuentes de datos no estructuradas necesarias para la IA generativa.
“Antes de que pueda producirse cualquier experimentación significativa de IA, hay que centrarse en establecer políticas de gobernanza sólidas para garantizar la conexión y la integridad de los datos que fluyen por la empresa”, afirma Dalan Winbush, de Quickbase.
Es probable que se necesiten ampliaciones en varios ámbitos de la gobernanza de datos. La especificación en torno a fuentes de datos no estructurados, incluidos documentos y contenidos almacenados en SaaS, es un ejemplo. “Lamentablemente, las herramientas de gobierno de datos heredadas se diseñaron en una era de datos estructurados, en la que el gobierno era defensivo y pasivo”, afirma Ramon Chen, CPO de Acceldata. “Cada vez más, las empresas están recurriendo a plataformas de observabilidad de datos nextgen para manejar datos de todo tipo y modalidad, entregando alertas en tiempo real y remediación, haciendo cumplir la calidad de los datos y las políticas de negocio para garantizar tuberías de datos confiables”.
La protección de datos de conjuntos de entrenamiento de IA, la supervisión puntual de IA para garantizar que los empleados no divulguen datos confidenciales y la supervisión de salida para proteger secretos y propiedad intelectual son áreas en las que la seguridad y la gobernanza de datos pueden ayudar a la gobernanza de IA, dice Ron Reiter, CTO y cofundador de Sentra. “Al permitir a las organizaciones capacitar a diversos equipos, incluidos los roles de privacidad, gobernanza y cumplimiento, los profesionales pueden reforzar activamente la postura de seguridad de datos sin requerir capacitación especializada en ciberseguridad”.
Para las empresas del sector sanitario y otros sectores regulados, mejorar la calidad de los datos y definir los derechos de acceso son pasos fundamentales para cumplir las normas de rendimiento, privacidad y seguridad, afirma Sunil Venkataram, jefe de Producto de Wellframe, una empresa de HealthEdge. “Las organizaciones deben aprovechar las principales prácticas, herramientas y socios de confianza para la validación de datos, auditoría, monitoreo y presentación de informes, así como para detectar y mitigar posibles sesgos, errores o mal uso de los datos generados por IA”.
¿Qué copilotos y herramientas de IA pueden utilizar los empleados?
Una de las áreas clave que hay que abordar con los empleados es especificar qué herramientas de IA pueden utilizar en el flujo de trabajo, la investigación y la experimentación. Además de identificar las herramientas, una sólida política de gobernanza de IA debe especificar qué capacidades usar, qué funciones evitar, quién en la organización puede usarlas y qué procesos de negocio deben evitar el uso de IA.
Los CIO pretenden estandarizar las herramientas de IA y evitar la TI en la sombra, la costosa proliferación de herramientas y el riesgo adicional cuando los empleados comparten datos de la empresa en herramientas sin contratos que definan la seguridad de datos requerida. Las políticas también deben definir un proceso que permita a los empleados recomendar nuevas herramientas y capacidades para su evaluación.
Los líderes también deben educar a los empleados sobre las mejores prácticas al usar copilotos. “La gobernanza efectiva de la IA y tener las herramientas adecuadas son cruciales para reducir el riesgo y maximizar los beneficios”, dice Harry Wang, vicepresidente de Asociaciones Estratégicas de Sonar. “Tomando el desarrollo de software como ejemplo, la IA puede acelerar el desarrollo, pero también aumentar el riesgo de interrupciones importantes por código defectuoso sin las comprobaciones adecuadas”.
Cómo deben validar los empleados los resultados de la IA?
Los desarrolladores de software ya prueban la funcionalidad y realizan revisiones de código, por lo que los generadores de código copiloto añaden una nueva dimensión y velocidad a las prácticas existentes. Sin embargo, los empresarios que utilizan IA generativa pueden no tener las mismas disciplinas para validar los resultados, y muchos desastres famosos de IA han perjudicado a las marcas y las finanzas de las empresas. La gobernanza de la IA puede proporcionar políticas y prácticas sobre cómo los empleados deben validar los resultados proporcionados por una herramienta de IA generativa o LLM.
“Lo más importante para hacerlo bien es ayudar a su personal a desarrollar las habilidades necesarias para utilizar la IA de manera efectiva en su contexto empresarial”, dice Weiss de Tabnine. “Se necesita una formación considerable tanto para aprender a preguntar de forma eficaz en cualquier dominio específico como para ver de forma crítica los resultados, ya que la mayoría del personal no está especialmente acostumbrado a que su ordenador les diga cosas potencialmente incorrectas”.
Una de las cuestiones es si las herramientas de IA son explicables y qué factores tiene en cuenta la IA generativa a la hora de responder a preguntas concretas. “Mientras que la mayoría de los sistemas son deterministas, los sistemas de IA generativa son no deterministas, lo que significa que los resultados no siempre pueden ser coherentes o predecibles”, afirma Simon Margolis, director técnico asociado de IA/ML en SADA.
Hema Raghavan, jefe de Ingeniería y cofundador de Kumo AI, afirma: “Evaluar los resultados de la IA consiste en calcular una métrica para la satisfacción del usuario en torno a la relevancia, la fiabilidad y la velocidad. Relevancia significa si un usuario que busca información está satisfecho con la respuesta presentada, fiabilidad son respuestas coherentes y velocidad significa ofrecer resultados a la velocidad del rayo”.
Un plan de gobernanza de la IA para validar los resultados puede incluir:
- Documentación de qué fuentes de información internas se utilizan en las GAR.
- Procedimientos de prueba y validación antes de poner en funcionamiento cualquier código, automatización u otro resultado de IA.
- Una biblioteca centralizada de indicaciones para que los empleados puedan ver cómo otros utilizan una herramienta de IA generativa.
“Con los avances de la IA superando los conjuntos de reglas que rigen el uso de la IA, los líderes empresariales deben priorizar la educación de los empleados sobre los principios clave del uso responsable de la IA: explicabilidad, rendición de cuentas, gestión de riesgos, supervisión, alineación ética, control de sesgos y transparencia”, dice Ed Frederici, CTO de Appfire. “Algunas tácticas incluyen auditar los resultados impulsados por la IA para garantizar que los resultados se mantengan dentro de los límites esperados, establecer protocolos claros para cuando las decisiones de IA necesiten supervisión humana, implementar sistemas donde la retroalimentación pueda usarse para mejorar el proceso de toma de decisiones de IA y garantizar que las decisiones de IA puedan explicarse en términos comprensibles”.
Las organizaciones que operan en sectores regulados o en los que la seguridad de las personas es una preocupación deben definir requisitos de prueba más específicos.
¿Dónde deben acudir los empleados para obtener más información sobre la IA?
La gobernanza de la IA también debe tener un ojo puesto en el futuro y orientar a los empleados sobre dónde aprender acerca de las tecnologías de IA y las mejores prácticas. Los programas de aprendizaje pueden ayudar a los empleados a aprender nuevas habilidades y adaptarse a un mundo rápidamente cambiante de agentes virtuales e inteligencia artificial.
“El verdadero progreso combina las capacidades de la IA con la perspicacia humana, liberando todo el potencial de la tecnología para servir a las necesidades humanas y las normas éticas”, dice Shibu Nambiar, líder global de Negocios de Alta Tecnología en Genpact. “Al formar a los empleados para que den prioridad a la IA centrada en el ser humano, crearemos un futuro en el que la tecnología empodere a las personas, potencie la creatividad y defienda nuestros valores fundamentales”.
Las mejores organizaciones tendrán en cuenta el liderazgo, la innovación, las habilidades y otras formaciones para ayudar a los empleados a replantearse los productos y el trabajo para la era de la IA generativa. Aunque la productividad es uno de los primeros beneficios, impulsar la transformación digital con IA generativa requerirá tanto una planificación con visión de futuro como reinventar los modelos empresariales.
Read More from This Article: Lo que necesita saber sobre la gobernanza de la IA
Source: News