칼럼 | AI 에이전트 혹은 에이전틱 AI··· 기업이 진정 원하는 것은

많은 기업이 일찍부터 대규모 언어 모델(LLM) 기반의 클라우드 호스팅 생성형 AI가 비즈니스 운영을 혁신하지 못할 것이라는 입장을 보여왔다. 따라서 ‘AI 에이전트(AI agents)’라는 개념이 등장했을 때 기업들은 큰 기대를 품었다. 그들이 생각하는 AI 개념과 일치하는 것처럼 보였기 때문이다. 그러나 이제 AI 에이전트 개념이 ‘에이전틱 AI(agentic AI)’로 변화하면서, 기업들이 비관했던 대형 클라우드 기반 AI의 성격을 띠게 된 듯 하다. 기업들은 AI 에이전트에서 무엇을 원하며, ‘에이전틱’의 사고방식이 왜 잘못됐다고 말하고 있을까? 그리고 이 기술은 어디로 향하고 있을까?

기업의 영역에서는 AI를 애플리케이션 소프트웨어 도구 모음의 일부로 생각하는 경향이 있다. IBM이 일찍이 이를 깨닫고 성공적으로 활용해 왔다. IT 개발 종사자 322명 중 302명은 비즈니스 프로세스가 일련의 작업으로 구현되며, 각 작업은 사람, 외부 파트너, 또는 소프트웨어 구성 요소에 할당된다고 설명했다. 이들은 ‘AI 에이전트’가 하나 이상의 작업을 AI 요소인 ‘에이전트’에 할당하는 것이라고 봤다. 이런 접근 방식을 통해 기존 비즈니스 프로세스와 소프트웨어 애플리케이션을 대대적으로 변경하지 않고도 AI를 적용할 수 있다는 것이다.

기업이 생각하는 AI 에이전트의 특성을 나열해보면 많은 것을 알 수 있다. 기업 입장에 따르면, AI 에이전트는 다른 애플리케이션과 마찬가지로 비즈니스 프로세스에 적합한 소프트웨어 구성 요소다. 이들은 클라우드 또는 로컬에서 호스팅된다. 이 입장에서는 AI 에이전트가 챗봇이나 코파일럿이 아니라고 말한다. 챗봇이나 코파일럿은 개인 생산성 지원 도구이지 진정한 의미의 ‘에이전트’가 아니기 때문이다. 또한 AI 에이전트는 특정 기술(AI 또는 머신러닝, 대규모 또는 소규모 언어 모델)에 국한되지 않는다. AI 에이전트가 반드시 자율적으로 작동할 필요는 없지만, 기업은 이런 에이전트가 애플리케이션 구성요소처럼 주어진 임무 내에서 독립적으로 작동한다고 보는 경향이 있다.

AI와 AI 에이전트를 애플리케이션 구성 요소로 본다면, 이들은 비즈니스 프로세스와 워크플로우 모두에 자연스럽게 통합될 수 있다. 비즈니스 프로세스는 일종의 흐름이며, 요즘은 이 흐름의 상당 부분이 애플리케이션이나 구성 요소 간의 데이터 교환 집합인 ‘워크플로우’로 이뤄진다. 일반적으로 애플리케이션과 작업자를 통해 워크플로우를 연결하는 과정은 애플리케이션 자체와는 별개의 프로세스로 간주된다. ‘엔터프라이즈 서비스 버스(ESB)’라는 개념을 기억하는가? 이는 여전히 대부분의 기업이 AI를 포함하는 비즈니스 프로세스에서 선호하는 방식이다. 다시 말해 특정 작업을 수행하는 AI 에이전트를 도입하고, 이전 단계의 결과물을 제공한 다음, 그것이 다음 단계를 위한 결과물을 생성하도록 한다는 것이다. AI 에이전트가 ‘자율적’인지 여부는 실제로 그 결과물이 검토를 위해 사람에게 전달되는지, 아니면 바로 수락되고 실행되는지에 따라 결정된다.

이 접근 방식은 자율 운영을 강조하는 ‘에이전틱 AI’ 개념과 대조된다. 기업 407곳 중 294곳은 AI 에이전트가 승인 없이 직접 실행하는 것이 아니라 ‘추천’ 또는 ‘분석’하기를 원한다고 말했고, 34곳만이 AI 에이전트가 스스로 일을 처리하기를 원한다고 답했다. 나머지 기업은 AI 에이전트를 일반 소프트웨어처럼 특정 작업을 수행하는 도구로 봤다. 예를 들어 발생 빈도별로 문제 목록을 작성하는 등의 작업이다.

기업의 입장은 모든 비즈니스 도구가 다른 요소를 방해하지 않으면서 가치를 창출할 때 가장 유용하다는 관점에서 이해할 수 있다. 기업이 AI 에이전트에 대한 비전에서 가장 중요하게 생각하는 부분은 AI가 프로세스를 장악하거나 프로세스를 AI에 맞게 재구성할 필요 없이 기존 비즈니스 프로세스에 도입할 수 있다는 점이다. 기업은 기술 도입에서 기술의 영향 범위를 제한해 비용과 혼란을 최소화할 수 있는 전략을 선호해 왔다. 이런 접근 방식은 AI를 기존 애플리케이션에 통합하는 것을 선호하게 만든다. 이것이 기업이 비즈니스 운영 전반의 AI 개선을 비즈니스 분석에 AI를 도입하는 것과 연결 지어 생각해 온 이유이다.

필자가 아는 클라우드 서비스 업체의 기술 담당자들은 이런 접근 방식을 선호하지 않는다. 그들은 이것이 온라인 생성형 AI 서비스 사용에 장벽을 높일 수 있다고 우려한다. 반면 기업은 자신들의 AI 에이전트 비전이 오히려 클라우드 AI 서비스 활용을 촉진할 수 있다고 보고 있다. 모든 업무를 처리하는 거대한 AI 시스템이 있다면, 데이터 주권 문제로 인해 이를 사내에서 직접 운영해야 할 가능성이 높다. 반면, AI 활용을 여러 작은 단계로 나누면 일부 단계는 기업의 기밀 데이터를 공개할 필요가 없게 된다. 일부 AI 에이전트를 서비스 형태(as-a-service)로 활용할 수 있다는 의미다.

여기서 몇 가지 중요한 통찰을 얻을 수 있는데, 그 중 하나는 기술 관련 소식이 기업이 구매하고자 하는 기능보다 판매자가 판매하려는 기능에 의해 좌우된다는 점이다. 더 흥미로운 점은 지금 AI 발전의 중요한 갈림길에 서 있을 가능성이다.

현재 대중에게 알려진 AI 모델들의 핵심 특징은 일반 사람들이 사용할 수 있다는 점이다. 이는 단순한 이야기가 아니다. 즉, 기업이 아닌 개인 사용자에게 초점이 맞춰져 있다는 의미다. 누구나 온라인 AI 서비스에 접속해 상호작용할 수 있으며, AI는 인터넷만큼 접근성이 높은 대중적 기술이 되고 있다. 그러나 기업은 개인과 다른 관점에서 AI를 바라보고 있다. AI에 대한 기업의 시각이 대중적 시각과 일치하지 않는 이유는 대중적 시각이 개인 사용자 중심으로 형성됐기 때문이다.

AI가 단순히 사람들을 즐겁게 하는 것을 넘어 실질적으로 삶을 변화시키려면 대중 중심적이기보다는 기업 중심적인 접근이 필요하다. IBM은 이를 일찍이 파악했다. 그래서 많은 기업이 IBM을 AI 분야에서 통찰력 있는 파트너로 꼽는다. 소프트웨어 구성 요소로서의 AI, 즉 기업이 생각하는 AI 에이전트에는 엄청난 기회가 있지만, 또 다른 과제도 존재한다. AI를 어떻게 애플리케이션 워크플로우에 참여시킬 수 있을까? 아직 명확한 답은 제시되지 않았다. 이 문제를 해결하지 못하면 진정으로 유용한 에이전트를 개발하려 할 때 AI가 한계에 부딪힐 수 있다. 기본적으로 애플리케이션에는 인터페이스와 API가 있다. AI 에이전트가 애플리케이션 및 기존 워크플로우와 통합되려면 이것들이 필요하며, 기업이 기대하고 요구하는 바를 충족하기 위해서는 통합이 반드시 이뤄져야 한다.
[email protected]