새로운 ‘기업의 두뇌’ AI 에이전트 확산···플랫폼 주도권 어디로 가나?

AI 에이전트 도입 경쟁이 이번 주에도 빠른 속도로 이어졌다. 오픈AI는 챗GPT에 ‘워크스페이스 에이전트’를 선보였고, 마이크로소프트(MS)는 파운드리 에이전트 서비스(Foundry Agent Service)에 호스팅형 에이전트를 추가했다.

두 기업의 발표와 같은 날, 구글은 제미나이 엔터프라이즈 앱을 업데이트해 사무직 종사자들이 AI 에이전트를 구축·관리·활용할 수 있는 새로운 기능을 제공했다. 동시에 에이전트의 구축과 확장, 거버넌스, 최적화를 지원하는 ‘제미나이 엔터프라이즈 에이전트 플랫폼’도 출시했다.

이번 세 가지 발표는 앤트로픽이 4월 초 공개한 ‘클로드 매니지드 에이전트(Claude Managed Agents)’의 흐름을 잇는 것이다. 해당 서비스는 클라우드 기반 에이전트를 구축하고 운영할 수 있도록 지원하는 조합형 API 모음으로, 현재 퍼블릭 베타 단계에 있다.

오픈AI는 “워크스페이스 에이전트는 GPT의 진화된 형태”라며 “코덱스를 기반으로 보고서 작성부터 코드 개발, 메시지 응답까지 다양한 업무를 수행할 수 있다”고 밝혔다. 이어 “클라우드에서 실행되기 때문에 사용자가 자리를 비워도 작업을 계속 이어갈 수 있으며, 조직 내에서 공유해 팀 단위로 함께 활용하고 점진적으로 개선할 수 있도록 설계됐다”고 설명했다.

MS는 공식 블로그를 통해 “이번 업데이트는 프로덕션 수준의 기업용 에이전트를 위한 컴퓨팅과 서비스를 제공한다”고 밝혔다. 이어 “지난해 마이크로소프트 이그나이트(Ignite)에서 호스팅형 에이전트를 미리 선보인 이후, 이번 개편은 완전히 다른 경험을 제공한다”며 “세션 단위 보안 샌드박스, 파일시스템 지속성, 통합 인증, ‘스케일 투 제로’ 경제성을 갖췄다”고 강조했다.

에이전트 경쟁, 인프라와 플랫폼으로 확장

컨설팅 기업 무어 인사이트 앤드 스트래티지(Moor Insights & Strategy)의 수석 애널리스트 제이슨 앤더슨은 “에이전트 열풍이 이어지는 가운데 이번 네 가지 발표는 모두 연결된 흐름”이라며 “오픈AI는 에이전트 생성과 공유를 기본적으로 지원하는 기능을 내놓았다”고 분석했다.

이어 “이 기능은 오픈AI에게는 새로운 것이지만 다소 늦은 감이 있다”며 “구글과 MS, 앤트로픽 등은 이미 해당 역량을 갖추고 있었고, 이번 발표를 통해 더 앞서 나가고 있다”고 평가했다.

앤더슨은 “앤트로픽과 MS 사례를 보면, 에이전트가 점점 더 강력해지면서 문제 해결을 위해 코드 작성 등 다양한 작업까지 수행하는 방향으로 발전하고 있다”며 “이에 따라 실행 중인 에이전트와 모델을 얼마나 잘 관리할 수 있는지에 대한 복잡성과 우려도 커지고 있다”고 지적했다. 이어 “두 기업이 제공하는 호스팅 옵션은 에이전트 실행을 위한 보다 진보된 인프라”라고 설명했다.

또 “현재 많은 에이전트는 단순히 고도화된 프론트엔드 수준으로 활용되고 있다”며 “하지만 최신 옵션은 전용 컨테이너를 생성하는 등 기능을 제공하고, 반자율 또는 경우에 따라 완전 자율 운영까지 지원한다”고 덧붙였다. 이어 “MS와 앤트로픽의 발표는 인프라 중심이며, 오픈AI는 에이전트 구축 자체에 초점이 맞춰져 있다”고 분석했다.

구글의 이번 발표에 대해서는 “그 중간 지점에 위치한 접근”이라고 평가했다.

또한 “오픈AI의 발표는 지난해 구글의 제미나이 엔터프라이즈와 매우 유사하다”며 “구글은 올해 ‘제미나이 엔터프라이즈 에이전트 플랫폼’을 통해 에이전트 관리 제어 계층을 추가했고, 이를 통해 훨씬 강화된 공유 경험과 다양한 관리·거버넌스 기능을 제공하고 있다”고 설명했다.

앤더슨은 “전반적으로 에이전트 시장은 빠르게 과열되고 있으며, 후발주자들이 속속 합류하는 동시에 기존 투자 기업들은 확장성, 운영, 보안 역량을 강화하는 방향으로 진화하고 있다”고 진단했다.

또 다른 컨설팅 기업 인포테크 리서치 그룹(Info-Tech Research Group) 수석 리서치 디렉터 브라이언 잭슨은 “잇따른 발표는 에이전트 플랫폼이 기업의 일상 업무 인터페이스로 자리 잡는 과정에서 초기 시장을 선점하기 위한 경쟁이 본격화되고 있음을 보여준다”고 분석했다.

이어 “앤트로픽과 오픈AI는 AI 스타트업 관점에서 접근하고 있으며, 구글과 MS, 아마존은 기존 하이퍼스케일러와 엔터프라이즈 플랫폼 기반을 활용하고 있다”고 설명했다.

잭슨은 각 기업의 차별화 요소가 타깃 고객과 제공 방식에서 뚜렷하게 드러난다고 강조했다.

그는 “오픈AI의 워크스페이스 에이전트는 비기술 직군을 대상으로 설계됐다”며 “리드 스코어링부터 공급업체 조사 보고서 작성까지 다양한 업무를 자동화할 수 있는 템플릿을 제공한다”고 설명했다. 이어 “사용자는 어떤 모델이 사용되는지, 어떤 API가 호출되는지, 데이터가 어떻게 처리되는지, 권한이 어떻게 부여되는지 등 내부 구조를 신경 쓰지 않고 프롬프트만으로 업무 자동화를 구현할 수 있다”고 덧붙였다.

반면 앤트로픽은 다른 접근 방식을 취하고 있다. 잭슨은 “앤트로픽은 비즈니스 사용자 대신 기업 개발팀을 대상으로, 자체 에이전트를 구축하고 사용자 맞춤형 인터페이스를 제공할 수 있는 도구를 제공한다”며 “매니지드 에이전트는 개발자가 활용할 수 있는 조합형 API 집합으로 구성돼 있으며, 유연성은 높지만 실제 가치를 창출하기까지 더 많은 노력이 필요하다”고 설명했다.

MS와 구글은 방대한 기술 스택 위에 에이전트 계층을 결합한 수직 통합 플랫폼 전략을 취하고 있다. 잭슨은 “MS의 파운드리는 앤트로픽과 유사하지만, 특정 모델에 종속되지 않는 구조를 유지해 개발자가 원하는 에이전트 프레임워크를 선택할 수 있다는 점에서 더 높은 유연성을 제공한다”고 평가했다.

시장 성장과 함께 떠오르는 과제

에이전트 플랫폼 시장이 확대되면서 새로운 과제도 부상하고 있다. 잭슨은 “에이전트의 관측성과 관련된 문제가 새롭게 나타나고 있다”며 “에이전트를 탐지하고 추적하는 작업은 이를 생성할 때 사용된 인증 시스템에 기반하게 된다”고 설명했다.

이어 “각 플랫폼이 서로 다른 인증 체계를 사용하기 때문에 하나의 플랫폼만으로는 기업 내 모든 에이전트를 파악하기 어렵고, 심지어 비인가 사용자가 생성한 ‘섀도 AI(Shadow AI)’까지 확인하기는 더욱 쉽지 않다”고 지적했다.

또한 잭슨은 “에이전트 기반 워크플로는 작업 수행을 위해 훨씬 많은 AI 토큰 사용을 요구한다”며 “이미 높은 수요로 인해 AI 처리 용량 부족과 가격 상승 현상이 나타나고 있다”고 말했다. 이어 “에이전트는 하나의 작업을 완료하기 위해 여러 단계의 추론 과정을 거치기 때문에, 현재 자동화한 워크플로의 1년 후 운영 비용을 예측하기도 매우 어렵다”고 설명했다.

이러한 상황은 IT 리더에게 중요한 선택을 요구한다. 잭슨은 “어느 플랫폼 위에 에이전트 계층을 구축할지 신중히 결정해야 한다”며 “잘못된 선택을 할 경우 특정 플랫폼에 깊이 종속되는 벤더 락인 문제가 발생할 수 있다”고 강조했다.

이어 “이미 시스템과 데이터 측면에서의 락인 문제도 우려하고 있지만, 여기에 지능 계층까지 추가되면 업무 흐름과 연결된 일종의 ‘두뇌’를 구축하는 것과 같다”며 “이후 다른 플랫폼으로 ‘두뇌 이식’을 진행하는 것은 결코 쉬운 일이 아닐 것”이라고 덧붙였다.
dl-ciokorea@foundryco.com