Nvidia presenta nuevos microservicios de protección para la IA agéntica

Nvidia ha incorporado a sus herramientas de software Nvidia NeMo Guardrails nuevos microservicios de inferencia (NIM) para robustecer la seguridad de la inteligencia artificial (IA). Los nuevos microservicios tienen como objetivo ayudar a las empresas a mejorar la precisión, la seguridad y el control de las aplicaciones de IA agéntica, abordando una preocupación clave que los líderes de TI tienen sobre la adopción de la tecnología.

“Una de cada diez organizaciones ya está utilizando agentes de IA en la actualidad, y más del 80% planea adoptar agentes de IA en los próximos tres años”, dijo Kari Briski, vicepresidente de Modelos, Software y Servicios de IA empresarial en Nvidia durante la conferencia que tuvo lugar el pasado miércoles. “Esto significa que no solo se construyen agentes para la precisión de la tarea, sino que también se deben evaluar los agentes de IA para cumplir con los requisitos de seguridad, privacidad de datos y gobernanza, y eso puede ser una barrera importante para el despliegue”.

Briski explicó que, más allá de la confianza, la seguridad y el cumplimiento de las normativas, para desplegar con éxito agentes de IA en producción es necesario que sean eficaces. Deben mantener el rumbo y, al mismo tiempo, ser rápidos y receptivos en sus interacciones con los usuarios finales y otros agentes de IA. Para ello, Nvidia ha presentado tres nuevos NIM para NeMo Guardrails destinados a la seguridad de contenidos, el control de temas y la detección de jailbreak.

El NIM de seguridad de contenidos tiene como objetivo evitar que la IA genere resultados sesgados o perjudiciales, garantizando que las respuestas de la IA generativa se ajusten a las normas éticas. Se entrenó con el conjunto de datos de seguridad de contenidos Aegis de código abierto de Nvidia, que incluye 35.000 muestras de datos anotadas por humanos y marcadas para la seguridad de la IA. Aegis se utiliza para enseñar a la IA a moderar contenidos potencialmente dañinos generados por otros modelos de IA.

El NIM de control de temas mantiene a los agentes de IA centrados en temas aprobados, impidiéndoles divagar o desviarse hacia contenidos inapropiados. Por ejemplo, puede impedir que un agente de IA hable sobre un producto de la competencia.

El NIM de detección de fugas ayuda a mantener la integridad de la IA en “escenarios adversos” protegiéndola de los intentos de “fuga” que intentan eludir intencionadamente las salvaguardas de la IA. Se ha creado a partir de Nvidia Garak, un conjunto de herramientas de código abierto para la detección de vulnerabilidades entrenado en un conjunto de datos de 17.000 jailbreaks conocidos.

Mejor gobernanza con mayores salvaguardas

NeMo Guardrails forma parte de la plataforma NeMo, una plataforma escalable para definir, orquestar y aplicar políticas sobre agentes de IA y otros modelos de aplicación de IA generativa.

“Guardrails ayuda a mantener la credibilidad y la fiabilidad de las operaciones de IA mediante la aplicación de especificaciones para modelos, agentes y sistemas de IA”, afirma Briski. “Ayuda a mantener a los agentes de IA en el buen camino”.

Por ejemplo, los nuevos microservicios podrían ayudar a un fabricante de automóviles a crear un agente de IA para operaciones de vehículos que pudiera ayudar a los usuarios con el control de la climatización, el ajuste de los asientos, el infoentretenimiento, la navegación, etcétera. El fabricante podría utilizar los microservicios para especificar temas no permitidos, como otras marcas de coches o la aportación de recomendaciones u opiniones.

NeMo Guardrails utiliza pequeños modelos de lenguaje (SLM) con menor latencia que los LLM, lo que significa que pueden ejecutarse eficazmente en entornos distribuidos o con recursos limitados. Briski señaló que son ideales para escalar aplicaciones de IA en sectores como la sanidad, la automoción y la fabricación. Algunos directores de sistemas de información ya están recurriendo a los SLM como soluciones específicas y alternativas a los grandes modelos de lenguaje (LLM) más genéricos.

Aunque es posible utilizar NeMo Guardrails en configuraciones predeterminadas, Briski afirma que su verdadera potencia reside en la personalización y ampliación de los límites.

“El uso de varios raíles personalizables es importante porque no hay una talla única para todos”, afirma. “Hay políticas y requisitos que varían en función de los casos de uso, las marcas, las directrices de la empresa o incluso los diferentes requisitos normativos basados en la industria y la geografía. Los desarrolladores quieren poder elegir los raíles adecuados para sus necesidades específicas y los distintos requisitos de los sistemas de IA agéntica”.

El departamento de TI será ahora el “RR.HH de los agentes”, dijo Briski, sugiriendo que es aquí donde brillan los nuevos microservicios, permitiendo a los desarrolladores aplicar múltiples modelos ligeros y especializados como guardarraíles para cubrir las lagunas que pueden producirse cuando sólo existen políticas y protecciones globales más generales.

Los nuevos microservicios, así como NeMo Guardrails para la orquestación de carriles y el kit de herramientas Nvidia Garak, ya están disponibles para desarrolladores y empresas.