Skip to content
Tiatra, LLCTiatra, LLC
Tiatra, LLC
Information Technology Solutions for Washington, DC Government Agencies
  • Home
  • About Us
  • Services
    • IT Engineering and Support
    • Software Development
    • Information Assurance and Testing
    • Project and Program Management
  • Clients & Partners
  • Careers
  • News
  • Contact
 
  • Home
  • About Us
  • Services
    • IT Engineering and Support
    • Software Development
    • Information Assurance and Testing
    • Project and Program Management
  • Clients & Partners
  • Careers
  • News
  • Contact

Nvidia presenta nuevos microservicios de protección para la IA agéntica

Nvidia ha incorporado a sus herramientas de software Nvidia NeMo Guardrails nuevos microservicios de inferencia (NIM) para robustecer la seguridad de la inteligencia artificial (IA). Los nuevos microservicios tienen como objetivo ayudar a las empresas a mejorar la precisión, la seguridad y el control de las aplicaciones de IA agéntica, abordando una preocupación clave que los líderes de TI tienen sobre la adopción de la tecnología.

“Una de cada diez organizaciones ya está utilizando agentes de IA en la actualidad, y más del 80% planea adoptar agentes de IA en los próximos tres años”, dijo Kari Briski, vicepresidente de Modelos, Software y Servicios de IA empresarial en Nvidia durante la conferencia que tuvo lugar el pasado miércoles. “Esto significa que no solo se construyen agentes para la precisión de la tarea, sino que también se deben evaluar los agentes de IA para cumplir con los requisitos de seguridad, privacidad de datos y gobernanza, y eso puede ser una barrera importante para el despliegue”.

Briski explicó que, más allá de la confianza, la seguridad y el cumplimiento de las normativas, para desplegar con éxito agentes de IA en producción es necesario que sean eficaces. Deben mantener el rumbo y, al mismo tiempo, ser rápidos y receptivos en sus interacciones con los usuarios finales y otros agentes de IA. Para ello, Nvidia ha presentado tres nuevos NIM para NeMo Guardrails destinados a la seguridad de contenidos, el control de temas y la detección de jailbreak.

El NIM de seguridad de contenidos tiene como objetivo evitar que la IA genere resultados sesgados o perjudiciales, garantizando que las respuestas de la IA generativa se ajusten a las normas éticas. Se entrenó con el conjunto de datos de seguridad de contenidos Aegis de código abierto de Nvidia, que incluye 35.000 muestras de datos anotadas por humanos y marcadas para la seguridad de la IA. Aegis se utiliza para enseñar a la IA a moderar contenidos potencialmente dañinos generados por otros modelos de IA.

El NIM de control de temas mantiene a los agentes de IA centrados en temas aprobados, impidiéndoles divagar o desviarse hacia contenidos inapropiados. Por ejemplo, puede impedir que un agente de IA hable sobre un producto de la competencia.

El NIM de detección de fugas ayuda a mantener la integridad de la IA en “escenarios adversos” protegiéndola de los intentos de “fuga” que intentan eludir intencionadamente las salvaguardas de la IA. Se ha creado a partir de Nvidia Garak, un conjunto de herramientas de código abierto para la detección de vulnerabilidades entrenado en un conjunto de datos de 17.000 jailbreaks conocidos.

Mejor gobernanza con mayores salvaguardas

NeMo Guardrails forma parte de la plataforma NeMo, una plataforma escalable para definir, orquestar y aplicar políticas sobre agentes de IA y otros modelos de aplicación de IA generativa.

“Guardrails ayuda a mantener la credibilidad y la fiabilidad de las operaciones de IA mediante la aplicación de especificaciones para modelos, agentes y sistemas de IA”, afirma Briski. “Ayuda a mantener a los agentes de IA en el buen camino”.

Por ejemplo, los nuevos microservicios podrían ayudar a un fabricante de automóviles a crear un agente de IA para operaciones de vehículos que pudiera ayudar a los usuarios con el control de la climatización, el ajuste de los asientos, el infoentretenimiento, la navegación, etcétera. El fabricante podría utilizar los microservicios para especificar temas no permitidos, como otras marcas de coches o la aportación de recomendaciones u opiniones.

NeMo Guardrails utiliza pequeños modelos de lenguaje (SLM) con menor latencia que los LLM, lo que significa que pueden ejecutarse eficazmente en entornos distribuidos o con recursos limitados. Briski señaló que son ideales para escalar aplicaciones de IA en sectores como la sanidad, la automoción y la fabricación. Algunos directores de sistemas de información ya están recurriendo a los SLM como soluciones específicas y alternativas a los grandes modelos de lenguaje (LLM) más genéricos.

Aunque es posible utilizar NeMo Guardrails en configuraciones predeterminadas, Briski afirma que su verdadera potencia reside en la personalización y ampliación de los límites.

“El uso de varios raíles personalizables es importante porque no hay una talla única para todos”, afirma. “Hay políticas y requisitos que varían en función de los casos de uso, las marcas, las directrices de la empresa o incluso los diferentes requisitos normativos basados en la industria y la geografía. Los desarrolladores quieren poder elegir los raíles adecuados para sus necesidades específicas y los distintos requisitos de los sistemas de IA agéntica”.

El departamento de TI será ahora el “RR.HH de los agentes”, dijo Briski, sugiriendo que es aquí donde brillan los nuevos microservicios, permitiendo a los desarrolladores aplicar múltiples modelos ligeros y especializados como guardarraíles para cubrir las lagunas que pueden producirse cuando sólo existen políticas y protecciones globales más generales.

Los nuevos microservicios, así como NeMo Guardrails para la orquestación de carriles y el kit de herramientas Nvidia Garak, ya están disponibles para desarrolladores y empresas.


Read More from This Article: Nvidia presenta nuevos microservicios de protección para la IA agéntica
Source: News

Category: NewsJanuary 17, 2025
Tags: art

Post navigation

PreviousPrevious post:La IA conquista el sector de la energía y los servicios públicosNextNext post:Quick ROI vs. innovation: CIOs face competing AI goals

Related posts

휴먼컨설팅그룹, HR 솔루션 ‘휴넬’ 업그레이드 발표
May 9, 2025
Epicor expands AI offerings, launches new green initiative
May 9, 2025
MS도 합류··· 구글의 A2A 프로토콜, AI 에이전트 분야의 공용어 될까?
May 9, 2025
오픈AI, 아시아 4국에 데이터 레지던시 도입··· 한국 기업 데이터는 한국 서버에 저장
May 9, 2025
SAS supercharges Viya platform with AI agents, copilots, and synthetic data tools
May 8, 2025
IBM aims to set industry standard for enterprise AI with ITBench SaaS launch
May 8, 2025
Recent Posts
  • 휴먼컨설팅그룹, HR 솔루션 ‘휴넬’ 업그레이드 발표
  • Epicor expands AI offerings, launches new green initiative
  • MS도 합류··· 구글의 A2A 프로토콜, AI 에이전트 분야의 공용어 될까?
  • 오픈AI, 아시아 4국에 데이터 레지던시 도입··· 한국 기업 데이터는 한국 서버에 저장
  • SAS supercharges Viya platform with AI agents, copilots, and synthetic data tools
Recent Comments
    Archives
    • May 2025
    • April 2025
    • March 2025
    • February 2025
    • January 2025
    • December 2024
    • November 2024
    • October 2024
    • September 2024
    • August 2024
    • July 2024
    • June 2024
    • May 2024
    • April 2024
    • March 2024
    • February 2024
    • January 2024
    • December 2023
    • November 2023
    • October 2023
    • September 2023
    • August 2023
    • July 2023
    • June 2023
    • May 2023
    • April 2023
    • March 2023
    • February 2023
    • January 2023
    • December 2022
    • November 2022
    • October 2022
    • September 2022
    • August 2022
    • July 2022
    • June 2022
    • May 2022
    • April 2022
    • March 2022
    • February 2022
    • January 2022
    • December 2021
    • November 2021
    • October 2021
    • September 2021
    • August 2021
    • July 2021
    • June 2021
    • May 2021
    • April 2021
    • March 2021
    • February 2021
    • January 2021
    • December 2020
    • November 2020
    • October 2020
    • September 2020
    • August 2020
    • July 2020
    • June 2020
    • May 2020
    • April 2020
    • January 2020
    • December 2019
    • November 2019
    • October 2019
    • September 2019
    • August 2019
    • July 2019
    • June 2019
    • May 2019
    • April 2019
    • March 2019
    • February 2019
    • January 2019
    • December 2018
    • November 2018
    • October 2018
    • September 2018
    • August 2018
    • July 2018
    • June 2018
    • May 2018
    • April 2018
    • March 2018
    • February 2018
    • January 2018
    • December 2017
    • November 2017
    • October 2017
    • September 2017
    • August 2017
    • July 2017
    • June 2017
    • May 2017
    • April 2017
    • March 2017
    • February 2017
    • January 2017
    Categories
    • News
    Meta
    • Log in
    • Entries feed
    • Comments feed
    • WordPress.org
    Tiatra LLC.

    Tiatra, LLC, based in the Washington, DC metropolitan area, proudly serves federal government agencies, organizations that work with the government and other commercial businesses and organizations. Tiatra specializes in a broad range of information technology (IT) development and management services incorporating solid engineering, attention to client needs, and meeting or exceeding any security parameters required. Our small yet innovative company is structured with a full complement of the necessary technical experts, working with hands-on management, to provide a high level of service and competitive pricing for your systems and engineering requirements.

    Find us on:

    FacebookTwitterLinkedin

    Submitclear

    Tiatra, LLC
    Copyright 2016. All rights reserved.