차세대 물결 ‘AI 에이전트’가 온다··· ‘경고 라벨’ 붙인 채

독립적으로 작동하고 복잡한 워크플로를 실행할 수 있는 AI 애플리케이션인 AI 에이전트가 기술 업계 전반에 걸쳐 잇달아 상용화되고 있다. 인공지능(AI) 도입의 차세대 물결이 밀려오고 있다고 해도 과언이 아니다.

일반적으로 텍스트, 이미지, 음악 등의 콘텐츠 생성에 중점을 두는 대규모 언어 모델 (LLM)이나 생성형 AI 도구와 달리 에이전트 AI는 사람처럼 문제를 능동적으로 해결하고 복잡한 작업도 실행할 수 있도록 고안된 기술이다. 핵심 단어는 ‘에이전트’다, 즉 스스로 행동할 수 있다는 점이 가장 큰 특징이다.

AI 에이전트는 언어 이해, 추론, 의사 결정, 계획 등 다양한 기능을 결합하여 로봇 제어, 워크플로 관리, API와의 상호 작용 등 광범위한 영역에서 동작할 수 있다. 이러한 에이전트를 함께 그룹화하여 여러 AI 에이전트 시스템이 분산 및 협업 방식으로 작업을 수행할 수도 있다. (오픈AI는 지난 가을에 실험적인 멀티 에이전트 프레임워크인 ‘스웜’(Swarm)을 공개했다.)

펜실베이니아 대학교의 공학 및 컴퓨터 과학 교수인 벤자민 리는 에이전틱 AI가 ‘패러다임의 전환’을 가져올 것이라고 예상한다. 개별 작업 대신 대규모 작업을 에이전트에게 맡길 수 있게 되기에 생산성을 급격히 높일 수 있다는 이유에서다.

리는 “인공지능 분야의 연구가 초점을 맞춰온 범주는 단일 작업을 잘 수행하는 모델의 훈련이었다. 그러나 현실의 업무는 종종 상호 의존적인 여러 작업으로 구성된다”라며, “에이전트 AI를 사용하면 인간은 더 이상 AI에게 개별 작업을 제공하는 것이 아니라 AI에게 작업 전반을 제시하게 된다. 그러면 지능형 AI가 해당 작업을 완료하는 데 필요한 일련의 작업을 전략화하고 결정해 수행한다”라고 설명했다.

캡제미니에 따르면 조직의 82%가 향후 3년 동안 이메일 생성, 코딩, 데이터 분석 등의 업무에 AI 에이전트를 도입할 계획이다. 마찬가지로 딜로이트는 올해 AI 에이전트를 사용하는 기업이 향후 2년 동안 이 기술 사용을 50%까지 늘릴 것으로 예측했다.

“그러나 안전장치가 필요”

캡제미니는 AI 에이전트를 도입하려는 조직이 AI 기반 의사결정에 대한 투명성과 책임성을 보장하기 위한 안전장치를 꼭 마련해야 한다고 경고했다. 부정확한 데이터를 사용하는 AI 에이전트가 오류, 불일치 또는 누락된 값을 발생시켜 모델이 정확한 예측이나 결정을 내리기 어렵게 만기 때문이다. 예를 들어 데이터 세트에 특정 기능에 대한 누락된 값이 있는 경우 모델은 관계를 잘못 가정하거나 새로운 데이터로 일반화하지 못할 수 있다.

또한 에이전트가 동의 없이 개인으로부터 데이터를 가져오거나 제대로 익명화되지 않은 데이터를 사용하여 개인 식별 정보가 노출될 가능성도 배제할 수 없다. 데이터가 누락되거나 형식이 잘못 지정된 대규모 데이터 세트는 모델 학습 속도를 저하시키고 더 많은 리소스를 소모하여 시스템을 확장하기 어렵게 만드는 경우도 있다.

규정 준수 이슈 역시 감안해야 한다. AI 에이전트 또한 유럽연합의 AI 법 및 유사한 규정을 준수해야 한다. 즉 기업은 규정 준수뿐만 아니라 허위 진술, 정책 무시, 잘못된 해석, 예기치 않은 행동 등 다양한 리스크를 관리해야 한다.

10월에 발표된 포레스터 리서치의 ‘AI 에이전트 현황’ 보고서는 “다양한 위험에 대비해야 한다. 기업은 위험 허용 범위를 평가하고 적절한 모니터링과 감독에 투자해야 한다. 이러한 필요성이 도입에 영향을 미칠 것”이라고 설명했다.

비즈니스 로펌 톰슨 하인의 CIO인 매트 코트니는 자신의 조직이 이미 법률 및 행정 업무에 에이전트와 에이전트 시스템을 적극적으로 실험하고 있다고 전했다. “하지만 아직 실제 워크플로에 적용할 정도로 성능과 정확성에 만족하는 것은 아니다”라고 그는 말하며 계약 검토, 청구, 예산 책정, 비즈니스 개발 용도에 한해 에이전트를 사용하고 있다고 밝혔다. 400명 이상의 변호사를 고용하는 톰슨 하인은 미국 9개 주에서 사업을 운영하고 있으며 법률 서비스 제공에 AI를 비롯한 첨단 기술 활용을 장려하고 있다.

코트니는 AI 에이전트가 계속 발전하고 있는 기술이라고 진단했다. 그에 따르면 오늘날 상업적으로 이용 가능한 대부분의 도구는 신생 스타트업이거나 오토젠(Autogen)과 같은 오픈소스 프로젝트에 비롯된 것이다. 또 세일즈포스와 서비스나우와 같은 벤더들도 AI 에이전트를 핵심 기능으로 강조하고 있다.

예를 들어 세일즈포스 아인슈타인은 이제 고객 관계 관리를 예측 분석과 자동화를 통해 강화하도록 설계됐다. 또한 오토-GPT를 사용하면 GPT-4 및 GPT-4o로 텍스트 프롬프트를 분석한 다음 목표를 관리 가능한 하위 작업으로 분할하여 복잡한 작업을 완료하는 자율 어시스턴트를 만들 수 있다.

코트니는 “향후 AI 에이전트의 활용처를 그려봄에 있어 기업들이 그동안 자동화와 관련해 투자해온 영역을 살펴볼 만하다. 재무, 운영, 관리 프로세스 등 시간이 많이 걸리고 빈번한 작업은 이러한 유형의 솔루션에 적합한 분야다. 또한, 글쓰기처럼) 생성형 AI가 특히 강점을 보이는 업무에 AI 에이전트를 활용하는 방안도 모색되고 있다. 예를 들어, AI 프로젝트 매니저, 블로그 작가, 브랜드 매니저, 편집자, SEO 전문가가 함께 협력하여 브랜드 마케팅 자료를 자동으로 생성하는 멀티 에이전트 시스템을 상상해 볼 수 있다”라고 말했다.

그는 특히 기업 내부와 외부의 시스템과 데이터를 통합할 수 있는 잠재력에 대해 큰 기대를 가지고 있다. 부서별, 공급업체별 사일로에 고립되어 있는 가치를 실현할 수 있는 큰 잠재력이 있다고 코트니는 전망했다.

아직은 역량이 제한적

가트너의 선임 디렉터 애널리스트인 톰 코쇼는 오늘날 많은 에이전트에 독립성이 제한되어 있다고 지적했다. 이로 인해 독자적인 의사 결정을 내리는 경우가 드물며, 행동에 대해 사람의 검토를 받곤 한다는 설명이다. 특히 에이전트를 배치함에 있어 일관된 결과를 도출하는 양질의 데이터를 기반으로 하기란 쉽지 않다고 그는 말했다.

코쇼는 “AI 에이전트를 배포하기란 까다롭다. 또 광범위한 테스트와 모니터링이 필요하다. 그럼에도 불구하고 AI 에이전트 시장은 스타트업, 하이퍼스케일러, 과거의 RPA 벤더, 종전의 대화형 AI 회사, 데이터 및 애널리틱스 기업들로 붐비고 있다”라고 표현했다.

실제로 전반적인 전망은 낙관적이다. 효율성과 비즈니스 성과를 개선할 수 있을 것으로 기대되기 때문이다. 포레스터 리서치에 따르면 서비스 부문의 기술 의사결정권자 중 70%는 향후 12개월 내에 타사 RPA 및 자동화 서비스에 대한 지출을 늘릴 것으로 예상했다. 또 디지털 비즈니스 전략 의사 결정권자 중 92%는 회사가 챗봇에 투자하고 있거나 향후 2년 내에 투자할 계획이 있다고 답했다. 89%는 AI 에이전트의 자율성, 의지, 대행 기술에 대해서도 투자할 의향을 밝혔다.

포레스터 리서치는 9월 보고서인 ‘AI 에이전트: : 좋은 점, 나쁜 점, 그리고 추악한 점’에서 “그러나 올바른 활용을 위해서는 핵심 프레임워크가 없는 단편적인 애플리케이션으로 구성된 독립형 솔루션들로 구성된 복잡한 환경을 파악해야 한다”라고 지적했다. AI 에이전트가 의사결정을 내리고 프로세스를 실행하기 위해서는 iPaaS 및 RPA와 같은 자동화 도구를 정리해야 한다는 이야기다.

세일즈포스, 서비스나우, 마이크로소프트, 워크데이트와 같은 기업용 애플리케이션 벤더들은 이미 채용, 영업 리드와의 연락, 마케팅 콘텐츠 제작, IT 관리 등의 업무를 간소화하도록 고안된 AI 에이전트를 출시했다.

존슨앤존슨은 AI 에이전트를 발빠르게 도입한 기업 중 하나다. 현재 AI 에이전트가 분자를 약물로 결정화하기 위한 용매 전환의 최적 타이밍을 결정하는 등 신약 개발을 지원하고 있다. 효과적이기는 하지만 편향된 결과나 오류와 같은 잠재적 위험에 대해서는 여전히 신중을 기하고 있다고 존슨앤존슨의 CIO 짐 스완슨은 전했다.

톰슨 하인의 코트니는 “다른 첨단 AI 솔루션과 마찬가지로 에이전트를 효과적으로 배포하려면 상당한 기술 및 프로세스 전문 지식이 필요하다. 매우 새롭고 실험적인 솔루션이기 때문에 복잡한 설정과 철저한 테스트를 수행할 만한 가치가 있는지는 아직 불명확하다. 여타 기술과 마찬가지로 ROI는 프로젝트에 따라 크게 달라진다”라고 말했다.
[email protected]