가트너, 주목할 에이전틱 AI 기술에 ‘가디언 에이전트’ 선정

가디언 에이전트는 사용자의 콘텐츠 검토, 모니터링, 분석 등을 돕는 AI 어시스턴트 역할을 수행한다. 이와 동시에 반자율 및 완전 자율 에이전트로서 실행 계획을 수립하고 수행하며, 사전 정의된 목표에 따라 동작을 조정하거나 차단한다.

에이전틱 AI의 활용이 지속적으로 증가하면서, 이를 통제하기 위한 가드레일의 필요성이 부각되고 있다.가트너가 CIO 및 IT 부서 리더 147명을 대상으로 실시한 최신 설문조사에 따르면, 응답자의 24%는 12개 미만의 AI 에이전트(AI Agents)를 구축하고 있으며, 4%는 이미 12개 이상을 도입한 것으로 나타났다.

응답자의 50%는 현재 AI 에이전트 기술을 연구하거나 실험 중이라고 답했으며, 17%는 늦어도 2026년 말까지 이를 구축할 계획이라고 밝혔다. 가트너는 AI 에이전트를 일관되고 안전하게 운용하기 위해서는 신뢰, 위험 및 보안에 대한 자동화된 제어 체계가 필요하다고 설명하며, 가디언 에이전트의 필요성이 더욱 부각되고 있다고 언급했다.

가트너 수석 VP 애널리스트 아비바 리탄은 “적절한 가드레일 없이 에이전틱 AI를 사용할 경우, 원치 않는 결과가 발생할 수 있다. 가디언 에이전트는 광범위한 에이전틱 AI 기능과 AI 기반의 결정론적 평가를 활용해 모든 에이전트 기능을 관리 감독하고, 런타임 의사결정과 위험 관리의 균형을 맞춘다”라고 강조했다.

가트너는 CIO와 보안 및 AI 리더가 AI 상호작용을 안전하게 지원하기 위해 가디언 에이전트의 3가지 핵심 활용 유형에 주목해야 한다고 설명했다. 첫째는 검토 기능으로 AI가 생성한 결과물과 콘텐츠의 정확성 및 사용 가능 여부를 식별하고 평가하는 것이다. 둘째는 모니터링 기능으로 인간 또는 AI 기반 후속 조치를 위해 AI 및 에이전트의 행동을 관찰하고 추적하는 것이며, 셋째는 보호 기능으로 자동화된 작업을 통해 실행 중인 AI 및 에이전트의 작동 및 권한을 조정하거나 차단하는 것이다.

가트너는 향후 가디언 에이전트가 활용 유형과 관계없이 상호작용 및 이상 징후를 관리하는 역할을 수행할 것이라고 내다봤다. 가트너는 2028년까지 AI 애플리케이션의 70%가 다중 에이전트 시스템을 도입할 것으로 예측했다.
dl-ciokorea@foundryco.com