Cómo gestionar los programas de IA generativa: gobernanza, educación, regulación

La inteligencia artificial (IA) generativa ha crecido con gran rapidez, atrayendo inversiones y despertando el interés y la creatividad de los desarrolladores. Las empresas ven en la IA generativa una vía para crear servicios innovadores y revolucionar sus sectores.

Sin embargo, aunque los desarrolladores están deseosos de construir con IA generativa, el reto es cómo ir más allá de las pruebas iniciales para funcionar a escala. Ahora se enfrentan a problemas sobre cómo integrar y gestionar sus proyectos para que los planes piloto puedan pasar a la producción. Se trata de una experiencia habitual en los proyectos de nuevas tecnologías, ya que pasan de ser islas de experimentación a una integración generalizada en todas las organizaciones. Esta proliferación puede plantear problemas de gobernanza y escalabilidad si no se tienen en cuenta desde el principio.

Gobernanza e IA generativa

A medida que se pasa de la experimentación a la producción, es esencial adoptar el enfoque adecuado en materia de gobernanza. Para aprovechar el potencial transformador de la IA generativa, es fundamental equilibrar el entusiasmo con una gobernanza eficaz. Aunque la IA generativa aprovecha el poder de los datos y la propiedad intelectual de una organización, su rápido crecimiento puede alterar los procesos establecidos. Sin directrices claras, defensores y responsables, la confusión y los riesgos pueden aumentar.

Crear un equipo central que capacite y trabaje en todos los departamentos es el mejor enfoque. Ya sea un centro de excelencia (CoE) o una comunidad de práctica (CoP), este equipo desempeñará un papel fundamental en la creación de normas y procesos comunes en torno al uso de la IA generativa.

Al mismo tiempo, su enfoque debe implicar a representantes de varios departamentos, para que su equipo esté directamente conectado con lo que necesita la empresa. Esto les proporcionará las habilidades y el apoyo que necesitan para resolver los problemas empresariales, y ayudará al equipo a evitar centrarse únicamente en cuestiones como la privacidad y la seguridad. Piense en su CoE de IA generativa como un equipo que se despliega sobre el terreno para ayudar a obtener resultados empresariales, en lugar de un departamento aislado que se limita a lanzar edictos como rayos del Olimpo.

Para un CoE, hay tres responsabilidades principales: vigilar, enseñar y arbitrar. Estas tres áreas son esenciales para que todos las entiendan, de modo que todas sus acciones y elecciones estén orientadas a los mismos objetivos.

La policía del CdE: liderazgo, aplicación y automatización

Vigilar las nuevas iniciativas tecnológicas implica crear un pequeño conjunto de normas comunes que deben regir a todos los equipos participantes. En el caso de los proyectos de IA generativa, esto podría incluir la creación de enfoques coherentes para gestionar las recetas rápidas, el desarrollo y las pruebas de los agentes, y el acceso a las herramientas de desarrollo y las integraciones. Estas normas deben ser ligeras, para que su cumplimiento sea fácil de conseguir, pero también deben hacerse cumplir. Con el tiempo, este enfoque reduce cualquier desviación de las normas diseñadas y reduce los gastos generales de gestión y la deuda técnica.

Por ejemplo, estas normas son necesarias para gestionar el uso de datos en los proyectos. Muchos proyectos de IA generativa implicarán el manejo y despliegue de datos de clientes, así que ¿cómo debe aplicarse esto en la práctica? Cuando se trata de la información personal identificable (IPI) de los clientes y de la propiedad intelectual (PI) de la empresa, estos datos deben mantenerse seguros y separados de cualquier gran modelo del lenguaje (LLM) subyacente, al tiempo que se permite su uso en los proyectos. La IPI y la PI pueden desplegarse y proporcionar un contexto adicional valioso a través de la ingeniería rápida, pero no deben estar disponibles para que el LLM las utilice como parte de cualquier reentrenamiento o retención.

El mejor enfoque en torno a la gobernanza es ser pragmático. Esto puede implicar elegir las batallas con cuidado, ya que ser demasiado estricto o excesivo en la aplicación de las normas puede obstaculizar a los equipos y su forma de trabajar, así como aumentar los costes asociados al cumplimiento. Al mismo tiempo, habrá casos en los que su trabajo sea necesario e implique el cierre de experimentos que pongan en peligro la privacidad o el uso ético de los datos, o cuyo coste a largo plazo sea excesivo. El objetivo general es evitar imponer normas engorrosas o sofocar el entusiasmo, y concentrarse en cómo fomentar las mejores prácticas como norma.

Para sacar el máximo partido de la IA generativa, su CoE debe ser accesible y fomentar la experimentación en toda la empresa. Proporcionar salvaguardas para empezar puede ayudar a los equipos a adquirir experiencia en la creación de servicios de IA generativa, recetas rápidas o agentes automatizados. Con el tiempo, puede eliminar algunos de los controles más estrictos. Una vez que los equipos tengan más experiencia, puede ayudarles a crear sus propios agentes y a presentar ideas de recetas. Como las aplicaciones de IA generativa tienden a tener un diseño modular, puede aplicar el mismo enfoque de control, supervisión y evaluación del valor también a los componentes comunes.

El objetivo del CdE debería ser proporcionar capas de control que faciliten la adopción y la construcción, en lugar de detener los proyectos en seco.

Los profesores del CdE: Mejores prácticas y comunidad

Lo ideal es que el CdE dedique aquí la mayor parte de su tiempo. Los proyectos de IA generativa pueden incluir varias formas diferentes de interacción con los usuarios. Desde la creación de listas de indicaciones que pueden ofrecer grandes resultados de LLM hasta agentes interactivos y autónomos con todas las funciones que pueden procesar transacciones completas, la idea es proporcionar más valor a los usuarios de la forma que más les convenga.

Para desplegar este tipo de proyectos con eficacia, las organizaciones primero tienen que capacitar a sus equipos sobre cómo construir los servicios y luego cómo ampliarlos. Más allá de definir las normas implicadas y hacerlas cumplir, su CoE también debe crear y compartir las mejores prácticas y principios para guiar a los nuevos equipos y fomentar el intercambio de conocimientos. Será necesario impartir formación sobre la IA generativa y su potencial para apoyar su adopción y ayudar a la gente a experimentar.

Es importante entender que estos principios no son normas. Mientras que las normas existen para proporcionar una línea de base para la actividad y la forma en que se procesan elementos como los datos, los principios proporcionan un marco orientativo sobre cómo basarse en esas normas. Por ejemplo, puede que tenga una norma para proteger la información de identificación personal de los clientes, pero sus principios determinarán cómo utilizar y trabajar con esos datos de identificación personal para crear valor para el usuario y la empresa. Estos principios permiten a los distintos equipos experimentar y llevar a cabo diferentes enfoques en torno al desarrollo de agentes.

Para el CoE, es esencial crear un papel que explore el potencial de la IA generativa y comparta ampliamente estas mejores prácticas. Este puesto de evangelista de la IA generativa puede ayudar a los equipos a comprender los agentes y las herramientas que pueden utilizar, iterar sobre sus ideas y compartir también los conocimientos de otros equipos. Con el tiempo, esto debería fomentar una fuerte comunidad interna que se anime a compartir sus experiencias y sus éxitos entre sí, ayudando a todos a progresar más rápidamente en sus proyectos.

El árbitro del CdE: mediación y toma de decisiones

En cualquier ámbito de la tecnología, hay múltiples maneras de llegar a un resultado final o a un objetivo empresarial. Es inevitable que la gente discrepe sobre cuál es el mejor enfoque de entre todas las opciones disponibles. En la IA generativa, temas como el uso de la generación aumentada por recuperación (RAG) frente al ajuste fino LLM o el ajuste del contenido frente al ajuste del modelo suscitarán apasionados debates.

El CdE tiene un papel esencial que desempeñar en este proceso. Una gobernanza eficaz de la IA generativa tiene que implicar a representantes de los distintos equipos implicados, para permitir la toma de decisiones incluso ante opiniones divergentes. Al mismo tiempo, puede ayudar a tomar decisiones con rapidez sobre cuál es el mejor enfoque para un problema determinado, o cuando todos los implicados necesiten llevar a cabo algunos experimentos y aportar más pruebas que respalden sus argumentos. En este caso, el criterio principal para el CdE es que todos respeten la decisión y trabajen para apoyar los objetivos de la empresa.

Si queremos que todos respeten esas decisiones, necesitaremos el apoyo de múltiples partes interesadas. El CdE puede ser percibido como una torre de marfil si no participa en las iniciativas cotidianas o si no se implica en el juego. Para evitarlo, hay que centrarse en actuar y ser coherente en las decisiones, ya que esto ayuda a resolver las disputas con mayor rapidez.

Invertir en IA generativa

La IA generativa tiene un enorme potencial. Según Accenture, la IA generativa se utilizará en el 40% de las horas de trabajo y reinventará la forma de trabajar. Para construir estos proyectos, las organizaciones necesitarán apoyo, gobernanza y desarrollo de habilidades. Cuando los líderes empresariales comprendan este potencial, destinarán grandes cantidades de recursos para que los proyectos funcionen. La alternativa es ver cómo los competidores llevan a cabo este trabajo y quedarse atrás.

La creación de un CoE para gestionar eficazmente la IA generativa aumentará las posibilidades de éxito para todos. Un CoE maximiza el valor de los programas de IA generativa y ordena la participación en torno a esos objetivos. Si se adopta este enfoque correctamente (vigilando, enseñando y arbitrando en torno a los programas de IA generativa), el CoE de IA generativa puede estimular poderosamente la adopción y el crecimiento, alineando a las partes interesadas de TI y de negocio.