IBM, AI 에이전트 운영 과제 해소한다··· “거버넌스·보안 도구 통합”

IBM이 AI 거버넌스 도구인 왓슨x.거버넌스(watsonx.governance)를 AI 모델, 데이터, 활용 방식에 대한 보안을 제공하는 가디엄 AI 시큐리티(Guardium AI Security)와 통합해, 기업의 에이전트옵스를 간소화 및 강화할 예정이라고 밝혔다.

에이전트옵스는 ‘에이전트 운영’ 또는 ‘에이전트 개발 수명주기 관리’를 의미하는 새로운 영역으로, 에이전트의 무분별한 확산(agent sprawl)이 주요 과제로 부상함에 따라 기업들의 관심을 받고 있다. 이런 확산 문제는 AI 에이전트를 구축하는 도구를 제공하려는 벤더가 급증하면서 발생하고 있다.

IBM 왓슨x.거버넌스, 리스크, 컴플라이언스 제품 디렉터인 헤더 젠타일은 “에이전트옵스는 아직 초기 단계인 영역으로, 도구 과다 사용이 대표적인 문제로 꼽힌다. 에이전트 거버넌스와 보안을 통합하면 AI 개발자들이 일관된 시각과 통제권을 확보할 수 있으며, ‘섀도우 에이전트’ 같은 리스크가 확산될 가능성도 줄어든다”라고 말했다.

이번 통합은 AI 프로젝트 인벤토리와 같은 AI 자산 정보를 두 제품이 공유하는 방식으로 작동한다.

다만 주의할 점이 있다. IBM 데이터 보안 부문 부사장 비샬 카마트에 따르면, 통합 기능을 활용하려면 기업이 왓슨x.거버넌스와 가디엄 AI 시큐리티를 모두 도입해야 한다.

퓨처럼그룹(The Futurum Group)의 최고 연구 책임자인 데이브 니콜슨은 “이번 통합은 기업이 AI 사용례, 특히 에이전트에 대한 보안과 거버넌스 리스크를 동시에 관리할 수 있는 ‘첫’ 통합 솔루션”이라며 “AI 에이전트는 막대한 생산성 혜택을 제공하지만, 적절하게 관리 및 보호되지 않을 경우 심각한 결과를 초래할 수 있기 때문에 이런 통합이 중요하다”라고 분석했다.

니콜슨은 향후 마이크로소프트, 구글, 아마존웹서비스(AWS) 등 주요 벤더들도 AI 중심의 거버넌스 및 보안 제품 간 통합을 확대할 것으로 내다봤다.

그는 “AI 에이전트의 빠른 확산은 보안과 거버넌스 조직 간의 벽을 허물고, 분산된 포인트 솔루션 대신 통합된 플랫폼을 제공하며, 자율적 AI 시스템 특유의 리스크를 해결해야 한다는 압박을 기술 업계 전반에 가하고 있다”라고 설명했다.

가디엄 AI, 왓슨x.거버넌스의 신규 기능

이번 통합의 일환으로 IBM은 AI 시스템 및 애플리케이션의 리스크, 보안 관리를 전문으로 하는 플랫폼 올트루AI(AllTrue.ai)와 협력해 가디엄 AI 시큐리티에 새로운 기능을 도입했다.

카마트는 “이번에 추가된 기능에는 자동화된 침투 테스트와 에이전트 탐지가 있으며, 이는 가디엄 AI 시큐리티나 왓슨x.거버넌스 내에서 직접 접근할 수 있다. 이 기능들은 IBM 제품 라이선스를 통해 제공된다”라고 설명했다.

IBM은 올트루AI와의 협업을 통해 클라우드 환경, 코드 저장소, 임베디드 시스템에 대한 특화된 탐지 기능도 제공할 예정이라고 밝혔다. 또한 리스크가 식별되면 가디엄 AI 시큐리티가 왓슨x.거버넌스의 거버넌스 워크플로우를 자동으로 실행할 수 있다고 설명했다.

퓨처럼그룹의 니콜슨은 “대다수 기업이 분산된 구조로 AI 생태계를 확장하고 있는 만큼 이런 기능이 점점 더 중요해지고 있다”라고 진단했다.

한편 IBM은 최근 가디엄 AI 시큐리티에 대한 업데이트를 발표했다. 여기에 포함된 자동화된 레드팀 기능은 AI 사용례 전반에서 보안 취약점이나 설정 오류를 탐지하고 수정할 수 있도록 지원한다.

IBM은 왓슨x.거버넌스와의 통합이 올해 연말까지 순차적으로 적용될 것이라고 밝혔다. 통합의 일환으로 왓슨x.거버넌스에는 AI 에이전트의 전체 수명주기를 모니터링하고 관리할 수 있는 기능 등이 새로 추가됐다.

IBM은 블로그 게시글을 통해 “에이전트 내에 평가 노드를 직접 구축함으로써 답변 적절성, 문맥 적절성, 사실성 같은 지표를 정밀하게 추적하고 성능 저하의 근본 원인을 파악할 수 있다”라고 설명했다.

IBM은 오는 27일까지 에이전트 온보딩 위험 평가, 에이전트 감사 이력, 에이전트 도구 카탈로그 등 기능도 추가할 계획이다. 왓슨x.거버넌스에는 기업이 AI 활용과 관련한 의무사항을 빠르게 파악하고 규제를 준수할 수 있도록 돕는 ‘컴플라이언스 가속기(Compliance Accelerators)’도 도입된다.

이 가속기는 전 세계 규제, 표준, 프레임워크가 사전 탑재된 애드온 형식으로 제공되며, EU AI 법안(EU AI Act), 미국 연방준비제도 SR 11-7, 뉴욕시 지방 조례 144번뿐 아니라 ISO/IEC 42001, NIST AI RMF와 같은 글로벌 기준도 지원한다.
dl-ciokorea@foundryco.com