“AI 실수까지 통제한다” 빔 CRO, 데이터 통제·복원 전략 발표

지난 12월 합류한 홍성구 빔 코리아 지사장은 최근 한국 지사 규모를 늘리고 있다며 한국 시장에 대한 기대감을 표현했다. 그는 “제조업 중심의 엔터프라이즈와 대기업군이 핵심 타깃이며, 올해는 공공·금융 분야 대형 프로젝트도 많다”라며 “특히 재해복구(DR) 센터 구축 등 대규모 사업 기회가 확대되고 있다”라고 밝혔다.

이어 “금융권에서도 차세대 프로젝트가 다시 활성화되고 있어 중요한 성장 기회가 될 것”이라고 언급했다..

빔에서 아시아태평양·일본(APJ) 지역을 총괄하는 베니 시아는 “실제로 APJ는 타 지역 대비 가장 빠른 성장세를 보이는 지역 중 하나로, 한국 시장에서도 이에 준하는 높은 성장세를 기대하고 있다”라며 “지난해 대비 한국 내 리소스를 40% 이상 확대했고, 이러한 투자는 계속될 것”이라고 말했다.

이날 행사에 참여한 존 제스터 최고매출책임자(CRO)도 한국 시장의 중요성을 재차 강조했다. 그는 “한국을 방문한 이유는 주요 고객을 직접 만나 요구사항을 이해하고, 이를 제품과 파트너 전략에 반영하기 위한 것”이라며 “빔은 글로벌 관련 업계에서 이미 1위를 달성했지만, 목표는 모든 국가에서 시장 점유율 1위를 달성하는 것”이라고 밝혔다.

AI 시대, 기업이 직면한 ‘3가지 격차’

제스터는 AI 확산이 새로운 데이터 리스크를 야기하고 있다고 진단했다. 그는 기업들이 ▲데이터 위치를 파악하지 못하는 ‘가시성 격차’ ▲AI 에이전트 활동을 통제하지 못하는 ‘신뢰 격차’ ▲사고 발생 시 대응이 어려운 ‘복원력 격차’에 직면해 있다고 설명했다.

이런 환경에서 제스터 CRO는 최근 한국 시장의 규제 변화로 인해 기업들이 보다 기민하게 보안 거버넌스에 대응해야 한다고 조언했다. 한국은 전 세계에서 두 번째로 AI 기본법을 시행한 국가로, 올해 1월 발효된 AI 기본법과 개인정보보호법(PIPA), 개인정보보호위원회(PIPC) 시행령 등 관련 규제가 영향을 미치고 있기 때문이다.

이어 “AI 에이전트를 모니터링하고 적절한 거버넌스를 적용하지 않으면 규제 준수는 사실상 불가능하다”라고 말했다.

제스터는 또한 최근 사이버 공격 양상도 빠르게 변화하고 있다는 점도 주목했다. AI를 활용해 기업의 취약점을 탐색하거나 악성 코드를 생성하는 사례가 증가하고 있으며, 나아가 AI 에이전트 자체를 해킹해 악성 행위를 유도하는 새로운 유형의 위협도 등장하고 있다는 설명이다.

이러한 변화에 대응하기 위해 빔은 ‘에이전트 커맨더(Agent Commander)’라는 솔루션을 제시했다. 에이전트 커맨더는 AI 에이전트 거버넌스를 위한 통합 솔루션으로, ▲AI 탐지(Detect) ▲AI 보호(Protect) ▲AI 실행 취소(Undo AI) 등 세 가지 핵심 기능을 제공한다.

구체적으로 AI 탐지 기능은 기업 환경 전반에서 운영 중인 AI 에이전트를 목록화하고, 승인되지 않은 ‘섀도우 AI’까지 식별할 수 있도록 지원한다. AI 보호 기능은 데이터를 분류하고 보안 계층을 적용한 뒤, AI 에이전트에 식별 정보를 부여해 접근 권한을 관리한다. 또한 ‘AI 실행 취소’ 기능은 AI 에이전트가 의도하지 않은 행위를 수행했을 경우, 해당 행위의 영향 범위를 분석하고 이전 상태로 되돌릴 수 있도록 돕는다.

제스터는 “AI가 잘못된 결정을 내렸을 때 이를 되돌릴 수 있는 능력이 기업 신뢰의 핵심”이라며 “이 기능이 AI 도입에 대한 불안을 해소할 것”이라고 강조했다. 그는 이어 “과거에는 방화벽 중심으로 보안을 설계했다면, 이제는 데이터 자체를 중심으로 보안과 접근 통제를 설계해야 한다”고 말했다. 또한 “AI 에이전트 역시 하나의 아이덴티티로 관리해야 하며, 어떤 데이터에 접근하고 어떤 행동을 하는지 추적할 수 있어야 한다”라고 조언했다.
jihyun.lee@foundryco.com