“안전한 AI 배포 지원”··· 세일즈포스, AI 에이전트 테스트 기능 확대

지난 9월에 정식 출시된 에이전트포스는 기업이 영업, 서비스, 마케팅 및 상거래 작업을 완료할 때 스스로 추론할 수 있는 AI 에이전트를 구축할 수 있는 로우코드 솔루션이다.  이 에이전트는 특정 비즈니스 프로세스 내에서 특정 기능을 인간 개입 없이 자동화하는 ‘에이전틱 AI’라는 전략의 중심 요소로 평가받고 있다.

테스트 센터에선 자연어 상호작용을 사용한 합성 상호작용 생성, 샌드박스, 에이전트의 성능을 관찰하기 위한 도구가 추가되었다.

AI 기반 테스트와 샌드박스 환경

세일즈포스는 테스트 센터가 자연어 상호작용을 활용해 가상 상호작용을 생성하는 과정에서 유용할 것이라고 밝혔다. 이 기능을 통해 기업 사용자는 고객이 에이전트와 상호작용할 수 있는 다양한 방식들을 테스트하고, 에이전트가 요구사항에 맞게 작동하는지 확인할 수 있다.

주요 테스트 항목 중 하나는 입력된 데이터에 따라 에이전트가 올바른 주제와 행동을 대규모로 선택할 수 있는지 확인하는 것이다. 만약 에이전트가 기대에 부합하지 않는 경우, 테스트 데이터를 활용해 에이전트의 지시사항을 조정하여 올바른 주제와 행동을 선택하도록 개선할 수 있다.

이 기능은 에이전트포스에서 제공되며, 기존에 지원됐던 ‘플랜 트레이서(Plan Tracer)’를 보안하는 역할을 한다. 플랜 트레이서는 AI 에이전트가 특정 작업을 수행할 때 어떻게 판단하고 결정을 내리는지를 분석하는 도구이며, 기업 사용자는 상담원의 추론 프로세스를 조사하고 필요한 경우 상담원 빌더 모듈을 통해 조정할 수 있도록 지원한다.

세일즈포스는 기업이 격리된 안전한 환경에서 에이전트를 테스트할 수 있도록 에이전트포스 및 데이터 클라우드용 샌드박스를 일반에 공개한다고 전했다.

세일즈포스는 샌드박스가 기업의 프로덕션 데이터 및 구성 이미지를 미러링하는 방식으로 작동한다고 설명했다. 세일즈포스는 “기업의 데이터와 메타데이터를 안전한 테스트 환경에 복제해 개발 팀이 업무 중단 없이 비정형 데이터를 활용하고 에이전트포스를 철저하게 검증할 수 있다”라고 밝혔다.

테스트에서 프로덕션까지

기업 사용자가 에이전트가 필요한 대로 작동한다고 판단하면 변경 세트, 데브옵스 센터, 세일즈포스 명령줄 인터페이스(CLI)와 같은 독점 도구를 사용해 변경 사항을 배포할 수 있다고 세일즈포스는 언급했다.

세일즈포스는 샌드박스를 통해 기업 팀이 에이전트를 프로덕션에 적용하기 전에 AI 가드 레일 제품인 아인슈타인 트러스트 레이어를 테스트할 수 있다고 전했다. 세일즈포스는 “샌드박스에서 아인슈타인 트러스트 레이어의 감사 추적과 피드백 저장소를 통해 팀은 사용자 피드백에 따라 프롬프트와 작업을 반복하는 등 AI 테스트를 위한 폐쇄형 루프를 구축할 수 있다”라며 “에이전트포스가 프로덕션에 적용되면 에이전트포스 분석 및 발언 분석을 통해 에이전트에 대한 세부적인 통찰력을 제공하는 새로운 기능을 사용할 수 있다”라고 밝혔다.

이러한 새로운 통합 가시성 도구는 상담원의 지속적인 반복에 사용할 수 있다. 세일즈포스는 샌드박스 및 기타 테스트 센터 도구의 사용 현황을 계정 관리 도구인 디지털 월렛을 통해 확인할 수 있다고 설명했다.
[email protected]