“에이전트 확산, 가시성 확보가 최우선” MS, AI 보안 보고서 발표

MS는 전 세계적으로 사람과 에이전트가 협업하는 구조가 빠르게 확산되고 있다면서, 실제로 포춘 500대 기업의 80% 이상이 로우코드/노코드(low-code/no-code) 도구로 활성 에이전트를 구축 및 운용 중인 것으로 조사됐다고 설명했다.

다만 MS 보고서는 AI 에이전트의 급격한 확산이 가시성 격차라는 새로운 비즈니스 리스크를 만들어내고 있다고 진단했다. 이런 상황에서 비즈니스·IT·보안팀이 협력해 에이전트 활동을 관측하고 거버넌스를 적용하며 보안을 강화하는 체계를 갖춘 기업이 AI 도입 경쟁에서 앞설 것으로 예상했다.

MS는 2026년을 ‘AI 에이전트의 해’로 전망하면서, 로우코드·노코드 도구의 확산으로 지식 근로자들이 직접 에이전트를 개발할 수 있게 되고, AI 기반 자동화가 산업 전반으로 빠르게 확산되고 있다고 설명했다.

지역과 산업별 지표에서도 AI 에이전트 도입 흐름이 확인됐다. 조사에 따르면 지역별 활성 에이전트 비중은 유럽·중동·아프리카42%, 미국 29%, 아시아 19%, 아메리카 10% 순으로 나타났다. 산업별로는 소프트웨어·기술 16%, 제조업 13%, 금융 서비스 11%, 리테일 9% 순이었다.

Microsoft

하지만 MS는 에이전트가 보안 및 컴플라이언스 통제 수준을 앞지르는 사례도 늘고 있다고 밝혔다. 섀도우 AI(shadow AI) 리스크가 확대되고 있으며, 악의적인 행위자가 에이전트의 접근 권한과 권한 범위를 악용해 에이전트가 의도치 않게 행동하는 ‘이중 에이전트(double agents)’ 문제가 발생할 수 있다는 설명이다.

실제로 최근 MS 디펜더 팀(Microsoft Defender team)은 공격자가 AI 어시스턴트의 메모리를 지속적으로 조작해 향후 응답을 은밀히 유도하는 메모리 포이즈닝 기반 사기성 공격 캠페인을 포착했다. 또한 MS AI 레드 팀(Microsoft AI Red Team)은 에이전트가 기만적인 인터페이스 요소로 인해, 일상적인 콘텐츠에 포함된 유해한 지침을 따르는 사례를 파악했다.

관리 리스크도 뚜렷해지고 있다. 하이포테시스 그룹(Hypothesis Group)이 MS 의뢰로 실시한 조사에서는 직원의 29%가 미승인 AI 에이전트를 업무에 사용한 경험이 있는 것으로 나타났다. MS 데이터 보안 지수(Data Security Index)에 따르면 생성형 AI 보안 통제를 도입한 조직은 47%에 불과했다. 이 같은 조사 결과는 안전한 AI 도입을 위해 명확한 가시성이 필요함을 시사한다.

AI 에이전트는 기업이 거버넌스를 현대화하고, 불필요한 데이터 공유를 최소화하며, 전사적 통제 체계를 단계적으로 강화하는 계기가 됐다. 보고서는 이러한 접근이 에이전트 보호를 경쟁 우위로 전환하는 전략에 가깝다면서, 에이전트 보안의 출발점으로 가시성을 확보해야 한다고 설명했다.

가시성 확보란 IT·보안·개발자 등 조직 전 계층을 아우르는 컨트롤 플레인(Control Plane)을 구축해, 에이전트 존재 여부, 소유자, 데이터 접근 범위, 행동 양식 등을 파악하는 통합 관리 체계를 의미한다. 가시성은 ▲에이전트를 식별·관리하는 ‘레지스트리’ ▲최소 권한 원칙을 적용하는 ‘액세스 제어’ ▲리스크와 행위를 실시간 모니터링하는 ‘시각화’ ▲플랫폼 간 일관된 운영을 지원하는 ‘상호 운용성’ ▲내·외부 위협으로부터 에이전트를 보호하는 ‘보안’ 등 5가지 핵심 영역으로 구성된다.

아울러 MS는 AI 에이전트 리스크를 최소화하기 위한 7가지 실행 과제도 제시했다.

• 운영 범위 정의: AI 에이전트별 운영 목적을 문서화하고, 최소 접근 권한을 부여한다.
• 데이터 보호 체계 강화: AI 채널에 데이터 보호 규칙을 적용해 라벨링·감사 추적 기능을 유지한다.
• 승인된 AI 플랫폼 제공: 기업이 승인한 플랫폼을 제공해 섀도우 AI를 억제한다.
• 사고 대응 계획 수립: 시나리오에 따라 비즈니스 연속성 계획을 업데이트하고, 관측 지표를 추적한다.
• 규제 대응 체계 수립: 학습 데이터 관리, 편향성 평가, 인적 감독 체계를 통해 규제 준수를 설계한다.
• 전사 통합 리스크 관리: 리스크를 전사 차원으로 격상해 경영진 책임과 KPI, 이사회 가시성을 확보한다.
• 보안 혁신 문화 조성: 전 임직원을 대상으로 안전한 AI 사용 교육을 통해 투명성과 협업을 장려한다.

MS는 AI 에이전트 도입 경쟁에 성공하기 위해 비즈니스, IT, 보안, AI팀, 개발자 등 조직 전 계층이 협업하고, 모든 에이전트를 단일한 중앙 제어 평면에서 일관되게 관리·관측할 수 있는 환경이 필요하다고 설명했다. MS는 에이전트 365(Microsoft Agent 365) 플랫폼을 통해 통합 제어 플레인 구축을 지원하고 있다. MS 생태계는 물론 오픈소스 및 타사 시스템에서 구축된 AI 에이전트를 등록·관리·보안·감시·운영까지 중앙에서 통합적으로 관리할 수 있다고 덧붙였다.

사이버 펄스 보고서는 MS 보안 제품 및 서비스 공식 웹사이트에서 확인할 수 있다.
dl-ciokorea@foundryco.com