엔비디아, AI 에이전트 엔진 ‘네모 마이크로서비스’ 공식 출시

네모 마이크로서비스는 파트너 플랫폼과 통합되어 프롬프트 튜닝, 감독 학습 기반 파인튜닝, 지식 검색 도구 등의 기능을 제공한다.

엔비디아는 이번 발표를 통해 자사의 네모 마이크로서비스를 생성형AI와 AI 에이전트 개발의 기반이자, AI 성능 개선을 위한 데이터 플라이휠 전략의 핵심 구성 요소라고 강조했다. 데이터 플라이휠은 사용자의 상호작용이나 비즈니스 프로세스를 통해 수집한 데이터를 다시 AI 모델에 반영해 성능을 지속적으로 개선하는 선순환 구조다.

엔비디아의 엔터프라이즈 생성형AI 소프트웨어 부문 시니어 디렉터 조이 콘웨이는 “데이터 플라이휠을 통해 기업 IT 부서는 AI 에이전트를 디지털 동료로 도입할 수 있다”라며 “에이전트는 사용자와의 상호작용과 추론 기반 생성 데이터를 기반으로 지속적으로 모델을 개선하며, 그 결과 점점 더 정교해진다”라고 말했다.

이 시스템은 사용자의 상호작용 데이터를 수집하고, 이를 기반으로 AI 에이전트의 모델을 맞춤화한다. 이어 모델의 역량 향상을 평가하고, 안정성과 일관성을 확보하는 안전장치를 포함해 최신 모델을 배포한다. 마지막으로 정보 검색 정확도를 높여 전체적인 AI 성능을 강화하는 구조다.

콘웨이는 23일 열린 기자간담회에서 “우리의 관점에서는 모든 AI 에이전트가 데이터 플라이휠을 필요로 하게 될 것”이라며 “이 구조는 추론 데이터, 비즈니스 인텔리전스, 사용자 피드백과 같은 기업 데이터를 활용해 AI 에이전트의 역량을 강화하고 학습 능력을 향상시키는 기반이 된다”고 언급했다.

이번에 공식 출시된 네모 마이크로서비스는 다음과 같은 구성으로 제공된다.

• 네모 데이터 큐레이터(NeMo Data Curator): 기업 데이터를 수집·분류하고 중복을 제거하는 기능을 제공한다.
• 네모 커스터마이저(NeMo Customizer): 감독 학습 기반 파인튜닝 및 저랭크 적응 기법을 통해 모델을 세밀하게 조정한다.
• 네모 이밸류에이터(NeMo Evaluator): 맞춤형 또는 업계 표준 벤치마크 기준에 따라 AI 모델 및 워크플로를 평가한다.
• 네모 가드레일(NeMo Guardrails): 조직의 정책 및 가이드라인에 맞춰 보안과 안전성을 강화한다.
• 네모 리트리버(NeMo Retriever): 멀티모달 추출, 재정렬, 임베딩 파이프라인을 구축해 답변 정확도를 높인다.

콘웨이는 현재 기업들이 수백 개의 특화된 에이전트를 각 업무 부문에 도입해 대규모 멀티 에이전트 시스템을 구축하고 있는 시점에서, 이 마이크로서비스들의 상용화는 적절한 시기에 이루어졌다고 밝혔다.

그는 블로그 게시글을 통해 “기업 전반에서 AI 에이전트가 자동 사기 탐지, 쇼핑 어시스턴트, 예측 유지보수, 문서 검토 등 다양한 업무에 활용되며, 이는 수조 달러 규모의 기회로 이어질 수 있다”라며 “데이터를 실행 가능한 인사이트로 전환하는 데 있어 데이터 플라이휠의 역할은 매우 중요하다”라고 표현했다.

또한 콘웨이는 엔비디아의 파트너사들이 네모 마이크로서비스를 AI 에이전트 플랫폼에 어떻게 활용하고 있는지도 소개했다. 대표적으로 통신 기업 AT&T는 고객센터 지원에 에이전트 기반 AI를 적용하고 있다. AT&T는 어라이즈(Arize), 콴티피(Quantiphi)와 협력해 주간 단위로 업데이트되는 약 1만 개 문서를 기반으로 네모 마이크로서비스를 활용하는 AI 에이전트를 개발했다. 콘웨이는 “정확도가 40% 향상되었고, 연산 부담도 줄었다”라고 설명했다.

투자 관리 기술 플랫폼 알라딘을 운영하는 블랙록은 자사의 투자 관리 프로세스를 통합된 데이터 언어로 연결하기 위해 네모 마이크로서비스 기반의 에이전트 AI 역량을 도입하고 있다. 시스코의 신사업 부문 아웃시프트 팀은 파트너사 갈릴레오와 협업해 코딩 어시스턴트를 개발했으며, 이로 인해 툴 선택 오류는 40% 줄고 응답 속도는 최대 10배 빨라졌다는 설명이다.

콘웨이는 네모 마이크로서비스가 개방형 AI 모델도 지원한다고 덧붙였다. 현재 지원되는 모델에는 라마, 마이크로소프트의 파이(Phi) 계열 소형 언어모델, 구글의 젬마, 미스트랄, 라마 네모트론 울트라(Llama Nemotron Ultra) 등이 있다. 메타는 자사의 라마스택(Llamastack)용 신규 커넥터를 제공 중이다. 이외에도 클라우데라, 데이터독, 데이터이쿠, 데이터로봇, 데이터스택스, 슈퍼애노테이트(SuperAnnotate), 웨이츠앤바이어시스(Weights & Biases) 같은 AI 소프트웨어 기업들도 자사 플랫폼에 네모 마이크로서비스를 통합했다.
[email protected]