업종 불문, 직무 불문!··· AI 에이전트가 그려낼 ‘업무의 미래’

처음에 로봇 프로세스자동화(RPA)가 있었다. 오케트레이션 도구와 결합된 RPA를 활용함으로써 많은 조직은 생산성을 높이고 비즈니스 운영을 확장할 수 있었다. 그 후 가상 에이전트와 챗봇이 대화형 환경을 구현함으로써 자동화를 한 단계 더 발전시켰다. 좀 더 지난 후에는 대규모 언어 모델(LLM), 벡터 데이터베이스, 검색 증강 생성(RAG) 및 기타 생성형 AI 혁신을 통해 콘텐츠를 요약하고, 코파일럿을 사용하여 코드를 생성하고, 대화식으로 질문에 답하는 새로운 방식이 등장했다.

이제 AI 에이전트가 자동화, 대화형 경험, 프로세스 오케스트레이션 기능을 결합함으로써 다음 단계의 발전을 제시하고 있다. 개발자는 물론, 다양한 비즈니스 사용자에게도 특정 역할을 수행하는 파트너처럼 동작하는 것이다. 생성형 AI 기술을 역할 기반 워크플로우와 통합하는 AI 에이전트는 생성형 AI 기술이 혁신적인 비즈니스 혜택을 제공하는 대표적 사례로 손꼽힐 만하다.

“AI 에이전트는 실용적이고 측정 가능한 생성형 AI 활용처다. 데이터를 작성하고 API를 호출하는 등 행동할 수 있는 이 기술은 기업에게 큰 이점을 제공할 수 있다. 특히 시간 낭비적인 작업을 수행하는 데 매우 유용하다” SADA의 AI/ML 부문 부 CTO인 사이먼 마골리스는 말했다.

이미 애피안(Appian), 아틀라시안(Atlassian), 시스코 웹엑스(Cisco Webex), 클라우데라(Cloudera), 페가(Pega), 세일즈포스(Salesforce), SAP, 서비스나우(ServiceNow), 워크데이(Workday) 등의 플랫폼이 각자의 AI 에이전트 기능을 발표했다. 아마존 Q 디벨로퍼와 같은 퍼블릭 클라우드형 에이전트도 있다. AI 에이전트 시장 규모는 2023년에 38억 6,600만 달러로 평가되는데, 2024년부터 2030년까지 연평균 45.1%의 성장률을 보일 전망이다.

AI 에이전트가 크게 관심 받는 이유 중 하나는 최종 사용자가 정기적으로 수행하는 워크플로우에 전문성과 자동화를 더할 수 있는 가능성이다. 마골리스는 “영업사원에게 기본적인 고객 정보를 물어 CRM 시스템에 자동으로 입력하는 간단한 영업 에이전트, 환자에 대한 정보를 제공하고 방문 후 기록을 업데이트하는 의료 에이전트 등, 실행형 에이전트는 조직이 생성형 AI의 구체적인 이점을 실현하는 데 중추적인 역할을 할 것”이라고 말했다.

규칙 기반 챗봇과 AI 에이전트 비교

기존의 가상 에이전트와 챗봇은 몇 가지 기본적인 문제를 해결함에 있어 규칙 기반 접근 방식인 경우가 많다. 예를 들어 IT 서비스 관리(ITSM) 챗봇은 비밀번호 재설정이나 계정 잠금 해제와 같은 일반적인 서비스 요청을 처리하며, 더 복잡한 요청에 대해서는 사용자를 FAQ 및 지식창고로 안내한다. 반면 ITSM AI 에이전트는 예측적 인시던트 관리, 지능형 티켓 라우팅, 문제 근본 원인 분석과 같은 보다 정교한 작업을 수행한다.

아이세라(Aisera)의 아비 마헤시와리 CEO는 “AI 에이전트가 산업의 판도를 바꾼다고 할 수 있는 이유는, 작업을 자동화하고 문제를 해결하며 워크플로우까지도 개선할 수 있어서다. 이러한 에이전트는 표준 챗봇과 달리 독립적으로 추론하고, 계획하고, 조치를 취할 수 있다. 기술, 제조, 법률, 소매, 교육, 정부 등의 분야에서 사용되고 있다”라고 전했다.

오늘날 몇몇 기업용 플랫폼에 현업 사용자가 AI 에이전트와 상호 작용할 수 있도록 하는 기능이 이미 있다. 웹페이지의 사이드바나 여타 사용자 경험 요소의 형태다. 이러한 에이전트는 사람들이 조치를 취할 수 있도록 정보를 선제적으로 제시하기도 하며, 때로는 업무 수행에 필요한 전문 지식을 제공하거나 데이터 기반 인사이트를 직원에게 알려주기도 한다.

레이턴트뷰 애널리틱스의 가라브 쿠마르 부사장은 “사용자 입장에서 봇과 채팅하는 앱 인터페이스는 그리 새롭지 않다. 차이점은 에이전트형 챗봇의 응답이 간결하고 전문성을 가지며, 즉각적이라는 점이다. 또 방대한 말뭉치에서 파생된다는 점에서 다르다. 이 강력한 기술의 또 다른 장점은 역할 기반 액세스 제어를 적용함으로써 누가 무엇을 볼 수 있는지 통제할 수 있다는 점이다”라고 설명했다.

IBM의 디지털 노동 부문 제품 관리 부사장 파룰 미쉬라는 엔터프라이즈 AI 에이전트와 어시스턴트가 공존할 것이며, AI 어시스턴트의 경우 규범적인 작업을 실행하는 반면 자기 주도적인 AI 에이전트는 복잡한 문제를 추론하고 이를 해결하기 위한 다단계 계획을 실행할 것이라고 예상했다.

미쉬라는 “AI 에이전트의 기능은 산업과 사용 사례에 따라 다르겠지만, 중요한 점은 이러한 에이전트가 다른 도구 및 AI 어시스턴트와 협력하여 챗봇 경험을 새롭게 혁신한다는 것이다. 해법을 계획하고 테스트하며 자율적으로 구현할 수 있는 다차원적 시스템으로 전환한다”라고 말했다.

고품질 데이터가 필요

당연한 말이지만 AI 에이전트가 유용하려면 정확하고 관련성 있는 최신 정보가 필요하다. 데이터 리더는 AI 에이전트를 활용하기 전에 AI 에이전트가 어떤 데이터에 액세스하는지 파악하고 그 품질을 검증해야 한다.

“AI 에이전트는 복잡한 작업과 의사 결정을 자동화하는 데 도움될 수 있지만 그 효율성은 입력 데이터의 충실도가 높은 데이터에 대한 액세스에 달려 있다. 에이전트가 확인되지 않은 데이터에 대해 조치를 취하면 사기 탐지부터 공급망 관리에 이르기까지 중요한 운영에 실수로 오류나 비효율을 초래할 수 있다. 강력한 데이터 아키텍처를 통해 신뢰할 수 있는 데이터 무결성과 접근성을 보장해야 에이전트가 정확하고 영향력 있는 의사 결정을 내릴 수 있다”라고 클라우데라의 최고 전략 책임자인 아바스 리키는 말했다.

조직은 먼저 AI 에이전트 사용 사례를 포함하도록 AI 거버넌스 및 데이터 거버넌스 정책을 업데이트해야 한다. 또한 데이터 파이프라인에 성능이나 기타 운영상의 개선이 필요한지 검토할 만하다. 또 기업 규모가 크다면 SaaS, 퍼블릭 클라우드, 데이터 센터 전반에서 데이터 세트에 대한 액세스를 간소화하기 위해 데이터 패브릭이 필요할 수 있다.

“이에 더해 의도하지 않은 편견으로 인해 브랜드에 심각한 영향을 미칠 수 있는 오류를 일으키지 않도록 AI 거버넌스가 중요하다”라고 페가(Pega)의 돈 슈어만 CTO는 말했다.

직원 경험을 개선할 수 있는 AI 에이전트

AI 에이전트의 이점은 생산성 향상에 그치지 않는다. 어쩌면 더 중요하게도 최종 사용자의 업무에 즐거움을 더할 수 있다. 이를 통해 직원들은 번거로운 기술적 세부 사항에 얽매이지 않고 좀더 의미 있고 즐거운 작업에 집중할 수 있다.

워크데이의 데이비드 소머스 최고 제품 책임자는 “인사나 재무 프로세스를 간소화하는 정도가 아니다. 업무 수행 방식을 혁신할 것이다. AI 에이전트는 비용 제출, 직무 설명 작성, 일정 관리와 같은 일상적인 작업을 자동화함으로써 직원들이 보다 효율적으로 일하고 더 가치 있는 활동에 집중할 수 있도록 지원할 수 있다”라고 말했다.

AI 에이전트를 도입하면 특히 간헐적인 데이터 입력을 요구하는 작업에서 큰 효과를 볼 수 있다. 모든 직원이 1년에 몇 번 작성하는 HR이나 재무 관련 양식이 대표적이다. 즉 HR 및 재무 AI 에이전트를 사용하면 모든 직원의 생산성을 향상시킬 수 있다. 검토해야 할 정보가 많지만 정확하고 시기적절한 답변을 제공하기 어려운 고객 성공 및 지원 분야에서도 빠른 효과를 볼 수 있다.

“고객 성공을 돕는 반자율 에이전트가 핵심 활용 사례 중 하나라고 본다. 단순한 조언이나 지원과 같은 작업을 자동화하여 고객 성공 팀을 보강하고 가치를 제공한다. AI 에이전트는 또 고객 지원, 리소스 관리자, 프로젝트 관리자에게도 크게 유용하다”라고 서티니아(Certinia)의 최고 제품 및 기술 책임자 라주 말호트라는 말했다.

IT 전문가가 AI 에이전트의 가치를 이해하기에 좋은 사용처는 ITSM 및 개발 사례다. 코파일럿은 코드 생성에 도움을 줄 수 있지만, AI 에이전트는 전체 소프트웨어 개발 및 배포 수명 주기(SDLC)에서 작업을 수행하고 복잡성을 줄일 수 있다.

“에이전트가 이미 SDLC의 다섯 단계 모두에서 생산성을 높이고 있다. 모든 산업에서 데브옵스 관행을 혁신한다고 할 정도다. 우리는 코파일럿에서 진정한 에이전트로의 전환기에 있다. 이러한 가상 에이전트는 조언을 제공할 뿐만 아니라 사용자를 대신하여 작업을 수행하기도 한다. 에이전트 덕분에 사용자는 결과가 기대에 부응할 때까지 프로토타입 제작에 집중할 수 있다. 이후 데브옵스 에이전트가 솔루션을 테스트, 출시 및 운영해주기도 한다”라고 코파도(Copado)의 에반젤리즘 SVP인 데이비드 브룩스는 설명했다.

특정 산업 사례용 AI 에이전트

오늘날의 AI 에이전트 다수는 특정 부서 내의 워크플로우를 대상으로 하지만, 앞으로는 특정 산업의 워크플로우 문제를 해결하는 것을 목표로 하는 AI 에이전트도 늘어날 전망이다. 그리고 이는 비용, 품질, 확장성, 고객 경험에 직접적인 영향을 미칠 수 있기에 비즈니스 가치가 훨씬 더 클 수 있다. 이러한 AI 에이전트는 기업의 데이터와 해당 업종의 전문 지식을 활용하게 된다.

“가령 소매업, 제조업, 대규모 재고를 보유한 산업의 기업이라면 구매자의 요구사항에 대한 이해, 수천, 수만개의 제품에 대한 심층적인 상황 인식을 결합한 가상 에이전트의 혜택을 누릴 수 있다. 이를 테면 오늘날 온라인 구매와 관련한 두 가지 큰 문제에 대한 해법을 제시한다. 바로 소비자의 선택 과부하 해소, 높은 반품 비용을 야기하는 불량 제품 포착이다”라고 주부(Zoovu)의 조나단 테일러 CTO는 말했다.

고객의 불만 사항을 해결하고 빅데이터 소스에서 관련 정보를 정확히 찾아낼 수 있는 AI 에이전트는 특히 최종 사용자의 역할과 관심사에 맞게 개인화될 때 큰 비즈니스 가치를 제공할 수 있다는 설명이다.

테일러는 “쇼핑객의 요구 사항을 이해하는 가상 에이전트가 머신 투 머신 프로토콜을 사용해 고객의 관심사, 가격 및 기타 요인에 따라 제품을 구매하기 위해 소매업체의 웹사이트와 상호 작용할 수 있을 것”이라고 덧붙였다.

인더스트리 5.0의 목표인 작업 안전, 예측 유지보수, 품질 개선에 AI 에이전트를 사용할 수 있는 기회도 증가하고 있다. 단 이 분야에서의 활용을 위해서는 IT 부서가 운영 데이터를 중앙 집중화하고 정리하는 노력을 가속화해야 한다.

아주리(Augury) 아르템 크루페네프 전략 담당 부사장은 “데이터 인프라의 부족과 복잡성으로 인해 제조 산업은 AI 기반 에이전트를 개발하고 채택하는 데 있어 지식 산업보다 뒤처질 가능성이 크다”면서도, “하지만 기계 상태 진단 및 생산 상태 권장 사항을 중심으로 산업용 AI 에이전트가 구체화되기 시작했다”라고 전했다.

이러한 유형의 솔루션은 특정 고부가가치 사용 사례에 좁게 초점을 맞춘 경우가 많으며, AI 에이전트에 필요한 하드웨어 및 데이터 인프라가 내장된 풀스택 패키지로 제공되곤 한다고 그는 덧붙였다.

제조 분야의 AI 에이전트는 이 밖에 기존의 머신러닝 기능에 추가되는 형태가 많다. 자연어 프롬프트를 사용하여 작업자에게 양방향 인간과 기계 간 인터페이스를 제공하는 방식이다. 크로페네프는 “기계 및 설비 관리를 위한 AI 에이전트는 제조 분야에서 AI가 어떤 잠재력을 보여줄 수 있는지를 시사한다. 생산성에 대한 극적인 영향, 생산 능력 및 지속 가능성 향상, 안전 강화, 생산 현장에서의 인간 의사 결정 및 협업 강화 등의 이점이 나타날 것”이라고 덧붙였다.

IFS의 미주 지역 CTO인 케빈 밀러는 “공장 작업자와 현장 기술자는 매뉴얼에 문서화되지 않은 고유한 문제를 해결하는 데 상당한 시간을 소비하는 경우가 많다. AI 기반 고객 지원 도구를 사용하면 예측 및 처방적 유지보수를 통해 예기치 않은 기계 가동 중단이나 서비스 중단을 최소화할 수 있다”라고 설명했다.

AI 에이전트 사용에 따르는 위험과 기회

AI 에이전트는 비교적 새로운 기술이다. 얼리어답터에게 기회와 위험이 모두 있다는 의미로 이어진다. 공(Gong)의 공동 창립자이자 최고 제품 책임자 에일론 레셰프는 광범위한 지식과 이력이 필요한 포괄적인 작업에는 오늘날의 에이전트가 아직 적합하지 않다고 평했다.

그는 “통화의 주요 내용을 공유해 달라고 요청하는 것과 다음 분기 매출 전략을 계획해 달라고 요청하는 것은 다른 작업이다. 에이전트에게 자율성을 부여할수록 예측할 수 없는 결과가 발생할 가능성이 커진다”라고 말했다.

그는 이어 오늘날의 ‘AI 에이전트’가 내부 프로세스 자동화에는 혁신적이라고 할 수 있지만, 조직 외부에서 공개되는 결정에 대해서는 신중할 필요가 있다고 조언했다.

향후 AI 에이전트의 기능성이 LLM과 같은 속도로 향상된다면 에이전트 간 통합이 가능한 자율적인 에이전트가 곧 출현할 것이라는 전망도 있다. 아이세라의 마헤쉬와리는 “다음의 큰 도약은 사람의 개입 없이 전체 프로세스를 관리하여 생산성을 크게 향상시킬 수 있는 자율적인 AI 에이전트다. 이러한 에이전트는 일상적인 작업을 처리하여 조직이 더 스마트하고 빠르게 일할 수 있도록 지원할 것이다. 해결해야 할 과제가 남아 있지만, 이 기술은 우리의 업무 방식을 더욱 변화시킬 것”이라고 말했다.

포어소트(Forethought)의 데온 니콜라스 CEO도 비슷하게 내다봤다. 그는 “궁극적으로 AI 에이전트는 배후에서 서로 상호 작용하여 오늘날의 인간 프로세스 다수를 하나의 ‘에이전트’ 시스템으로 자동화할 것이다. 인터넷 구조와 유사한 AI 에이전트 네트워크가 출현할 것”이라고 말했다. 각 개인은 이발을 예약하거나 식료품을 주문할 수 있는 AI 에이전트를 갖게 될 것이고, 상점에는 주문을 접수하고 반품을 처리하며 조치를 취할 수 있는 고객 경험 AI 에이전트가 있게 된다는 설명이다.

오늘날 몇몇 플랫폼은 이미 자율 에이전트와 AI 에이전트의 통합을 제공하고 있다. 한 가지 예로 최근 발표된 워크데이와 세일즈포스의 AI 에이전트 간 통합이 있다.

기업들이 현재 워크플로우를 바라보는 시각에는 작업 자동화, 프로세스 오케스트레이션, 머신러닝 인텔리전스, 휴먼 인 더 루프 의사 결정 등이 중심을 이룬다. 여기에 AI 에이전트를 추가할 필요가 있다. 이를 통해 비즈니스 프로세스와 고객 경험을 재설계하여 새로운 디지털 혁신의 시대를 열 수 있을 것이다.
[email protected]