기고 | 기업의 AI 에이전트 투자가 성공하려면

기업들은 AI 에이전트의 혁신적 잠재력을 활용하기 위해 서둘러 투자해 왔지만, 현실은 냉혹하다. 1,000명 이상의 기업 기술 리더를 대상으로 우리가 진행한 조사 결과에 따르면, 68%의 조직이 연간 50만 달러 이상을 AI 이니셔티브에 예산으로 배정했다. 하지만 거의 모든 조직(86%)이 이를 배포하기 위한 기본 인프라를 갖추지 못한 상태였다. 이 야심과 실행 능력 간의 격차는 단순히 기술적 문제가 아니다. 이는 AI 투자 수익을 위협하는 전략적 도전 과제다.

그리고 위험이 더욱 커지고 있다. 가트너는 2028년이면 일상 업무 결정의 15%가 AI 에이전트를 통해 자율적으로 이루어질 것으로 예측하면서도 적절한 통제 없이 개발을 서두르면 위험에 처할 수 있다고 경고했다. 2028년 기업 보안 침해의 25%가 AI 에이전트 남용으로 인해 발생한다는 예측이다. 속도와 안전 사이의 이러한 긴장은 대부분의 이니셔티브의 과제로, 세 가지 핵심 기반의 필요성을 환기한다.

1. 지식 – 에이전트가 조직의 적절한 데이터에 포괄적으로 접근할 수 있도록 보장하는 것
2. 가드레일 – 강력한 보안, 거버넌스 및 준수 통제 체계를 수립하는 것
3. 도구 – 에이전트가 단순한 응답을 넘어 의미 있는 조치를 취할 수 있도록 함으로써 기본적인 챗봇에서 가치 있는 비즈니스 자동화 파트너로 전환시키는 것.

숨겨진 통합 과제

진전 상황을 보여줘야 한다는 성급함으로 인해 더 근본적인 문제가 가려지곤 한다. 관건은 AI 기술 자체가 아닌, 지식 접근이라는 문제다. 오늘날 많은 조직의 기술 생태계가 파편화되어 있으며, 이러한 현실은 다양한 비즈니스 프로세스에 AI 에이전트를 효과적으로 구현하는 데 심각한 걸림돌이 되고 있다.

우리 조사에서 79%의 조직은 데이터 문제가 AI 도입에 영향을 미칠 것으로 예상했다. 에이전트가 여러 데이터 소스에 접근하고 추론하여 지식을 구축함에 있어, 이러한 분산은 두드러지는 존재(좋은 의미가 아니다)가 된다. 지식 기반은 단순히 데이터 연결성뿐 아니라 특정 비즈니스 도메인 내에서 정보를 정확히 해석할 수 있는 맥락적 이해를 필요로 한다.

‘빌드-구매’라는 루프 깨기

이 지식 및 데이터 접근 문제는 기업에게 어려운 선택을 강요한다. 현장의 CIO들과 이야기를 나눠보면, 특히 에이전트에게 적절한 도구를 제공하는 과정에서 팀들이 빌드 대 구매 사이클에 갇히는 현상을 흔히 확인할 수 있다.

일부 기업은 맞춤형 개발로 시작해 인증 시스템과 데이터 파이프라인 구축에 자원을 쏟아붓지만, 실제 AI 기능을 구현하기까지 수개월이 소요된다는 사실을 깨닫게 된다. 에이전트가 거래를 실행하거나 시스템을 수정하거나 워크플로우를 자동화할 수 있도록 하는 근간이 핵심 설계 원칙이 아닌 부차적인 고려 사항으로 전락하며, 결과적으로 분석은 가능하지만 행동은 불가능한 에이전트가 탄생한다.

SaaS 스택 전반에 AI 기능을 활성화하는 접근 방식을 취하는 기업들도 있다. 하지만 대부분의 프로젝트가 다중 데이터 소스를 요구하기 때문에 포인트 솔루션이 증가하게 되며, 결국 IT 팀은 도구 통합 관리에 더 많은 시간을 소비한다. 이로 인해 에이전트는 인간 개입 없이 엔드투엔드 프로세스를 완료할 수 없는 제한된 범위의 업무만 수행하게 된다.

최악은 따로 있다. 이 두 접근 방식을 연결하려는 시도다. 벤더 도구에 맞춤형 코드를 겹겹이 쌓아 취약한 연결을 생성하는 접근은 실제 환경의 부하에서 쉽게 파열된다. 이러한 상황은 클라우드 초기 도입 시에도 반복된 바 있다. 이 상처가 여전히 치유되지 않은 조직이 흔하다.

보안은 사후 고려사항이 될 수 없다

속도와 안전성 사이의 긴장은 특히 안전장치를 구현하는 과정에서 심각하게 출현한다. 우리 조사 결과 보안 우려가 가장 큰 장애물로 꼽혔다. 57%의 조직이 이를 주요 도전 과제로 지목했다. 보안은 리더십(53%)과 실무자(62%)가 문제의 시급성에 대해 일치하는 드문 분야다.

문제가 뭘까? 전통적인 보안 접근 방식이 AI 에이전트에 적용되지 않는 다는 점이다. AI 에이전트에는 인증, 권한 부여, 데이터 처리, 결정 경계 등을 포괄하는 종합적인 가이드라인이 필요하다. 응답자의 42%가 AI 에이전트 이니셔티브를 충족하기 위해 8개 이상의 데이터 소스 연결이 필요하다고 밝힌 가운데, 포인트투포인트 보안은 새로운 통합마다 취약점 간극을 생성한다.

더 중요한 점은 AI 에이전트가 다른 유형의 모니터링과 가이드라인를 요구한다는 점이다. 단순히 액세스를 추적하는 것만으로는 충분하지 않다. 결정, 데이터 흐름, 실행 패턴을 세밀하게 모니터링해야 한다. 가이드라인은 생산적인 작업을 허용할 만큼 유연하면서도 오용이나 의도하지 않은 결과를 방지할 만큼 엄격해야 한다. 기업 보안 침해 위험이 커지는 상황에서 이를 제대로 구현하는 것은 필수적이다.

성공에서 배우기

일부 조직은 더 나은 방법을 찾고 있다. 예를 들어, 우리 고객 중 하나인 아프렌데 인시티튜트는 올바른 기반을 구축함으로써 다분기 프로젝트로 예상된 작업을 며칠 만에 완료했다. 그들의 성공은 인프라에 먼저 집중한 데서 비롯됐다.

그들의 접근 방식은 다음과 같다.

• 명확한 데이터 액세스와 측정 가능한 지표가 있는 고가치 프로세스 하나부터 시작한다.
• 기술 스택 전반에서 작동하는 데이터 오케스트레이션의 표준화된 패턴을 구축한다.
• 데이터 파이프라인, AI 논리, 통합 포인트를 독립적으로 검증하기 위한 테스트 전략을 설계한다.
• 가장 중요한 것은 초기부터 확장성을 계획하는 것이다. 첫 번째 에이전트는 IT 티켓 처리에 집중하는 것이 일반적이다. 사실 이는 기업들의 61%가 AI 에이전트의 주요 활용 사례로 꼽는 분야다.

통합을 통해 AI의 잠재력을 발휘한다

AI 에이전트의 잠재력은 단순히 더 나은 챗봇을 넘어선다. 기업들은 적절히 장비된 에이전트를 통해 고객 지원, 금융 운영, 직원 경험 등을 혁신하고 있다. 엔터프라이즈 AI의 성공은 가장 많은 에이전트나 가장 큰 예산을 가진 기업이 아니라, 3가지 기반을 먼저 확립한 기업의 몫이다. 확장 가능한 지식 접근, 포괄적인 안전 장치, 유연한 도구 통합 패턴이다.

기업의 90% 가까이 AI 성공을 위해 조직 시스템과의 통합을 필수적이라고 고려하고 있다. 이는 통합 문제를 해결하는 것이 AI의 변혁적 잠재력을 해방하는 열쇠임을 명확히 보여준다. 진정한 성과를 거둘 조직은 에이전트를 서둘러 배포하는 대신 안전하고 효과적으로 대규모로 배포하기 위한 기술적 기반에 투자하는 곳이다. 이러한 핵심 과제를 먼저 해결함으로써 그들은 프로토타입을 넘어 진정한 비즈니스 변혁으로 나아갈 수 있을 것다.

Alistair Russell은 Tray.ai의 공동 창립자이자 CTO다.

생성형 AI 인사이트는 기술 리더들(공급업체 및 기타 외부 기여자 포함)이 생성형 AI의 도전 과제와 기회를 탐구하고 논의할 수 있는 플랫폼이다. 기술 심층 분석부터 사례 연구, 전문가 의견까지 다양한 내용을 가로질러, InfoWorld는 기술적으로 고도화된 독자들에게 가장 적합하다고 판단된 주제와 접근 방식에 따라 주관적으로 선정한다. 단 InfoWorld는 마케팅 자료를 발행하지 않으며, 모든 기고 콘텐츠를 편집할 권리를 보유한다. 연락처 [email protected].
[email protected]