벤더 종속 vs 빠른 구축…MS·AWS FDE 도입 전 따져볼 것들

시스템 통합(Systems Integrator, SI)은 수십 년 동안 IT 프로젝트의 핵심 파트너 역할을 맡아왔다. 컨설팅 서비스를 제공하는 것은 물론, 기업이 다양한 기술을 구축하고 도입할 수 있도록 지원해 왔다.

그러나 기업들이 에이전틱 AI 도입에 본격적으로 나서면서 주요 LLM 공급업체들도 이 시장에 직접 뛰어들고 있다. 대표적인 사례가 FDE(Forward Deployed Engineer) 서비스다. AI 전문가를 고객 조직에 직접 배치해 AI 서비스를 설계하고 맞춤화하며 구축까지 지원하는 방식이다.

실제로 마이크로소프트(MS)는 7월 2일 25억 달러(약 3조 8,000억 원)를 투자한 ‘마이크로소프트 프론티어 컴퍼니(Microsoft Frontier Company)’를 출범했다. MS는 이 서비스가 기존 FDE를 뛰어넘는 새로운 모델이라고 설명했다. 아마존웹서비스(AWS)도 10억 달러(약 1조 5,000억 원)를 투자해 새로운 AWS FDE 플랫폼을 선보였다.

두 프로젝트 모두 수천 명의 MS와 AWS 엔지니어를 고객 환경에 직접 투입한다. AI 도구 구축을 지원하는 것은 물론, 향후 고객이 자체적으로 AI 프로젝트를 수행할 수 있도록 필요한 역량도 함께 전수하는 것이 목표다. 앤트로픽을 비롯한 다른 주요 AI 모델 기업들도 자체 FDE 서비스를 앞세워 시장에 뛰어들고 있다.

인포테크 리서치 그룹(Info-Tech Research Group)의 리서치 디렉터 토머스 랜들은 AI 투자와 투자 대비 수익률(ROI) 간 격차가 점점 커지고 있으며, 기업들은 AI 도입이 실제 비즈니스 성과로 이어진다는 점을 입증해야 하는 압박을 받고 있다고 분석했다.

랜들은 “MS와 AWS 같은 공급업체의 FDE는 제품에 대한 깊은 이해를 바탕으로 고객의 학습 기간을 단축하고, 재사용 가능한 업무 프로세스를 구축하며, 이후 조직 내부로 이전할 수 있는 역량을 확보하도록 지원하는 데 중요한 역할을 하게 될 것”이라고 말했다.

프론티어 트랜스포메이션

MS 상업 비즈니스 부문 최고경영자(CEO) 저드슨 알트호프는 블로그를 통해 마이크로소프트 프론티어 컴퍼니(Microsoft Frontier Company)가 6,000명의 전문가를 고객 조직에 투입해 고객의 비즈니스 목표에 맞는 AI 시스템을 공동 설계하고, 공동 혁신하며, 구축과 지속적인 고도화까지 지원한다고 밝혔다.

새 서비스는 MS가 ‘프론티어 트랜스포메이션(Frontier Transformation)’이라고 부르는 개념을 중심으로 한다. 기업이 자체 데이터와 내부 전문성, 업무 프로세스, 의사결정 체계를 기반으로 지능형 플랫폼을 구축할 수 있도록 지원하는 것이 핵심이다.

또한 핀옵스 원칙을 기반으로 AI 스택 전반에서 AI 서비스를 관찰하고, 거버넌스를 적용하며, 관리하고, 보호할 수 있도록 지원한다. 알트호프는 이를 통해 AI의 지능이 시간이 지날수록 지속적으로 축적되고 고도화된다고 설명했다.

알트호프는 마이크로소프트 프론티어 컴퍼니를 “다양한 모델을 지원하는 개방형 이기종 플랫폼”이라고 소개했다. 고객은 챗GPT, 클로드, MS 코파일럿은 물론 오픈소스 모델이나 산업 특화 모델 등 원하는 모델을 자유롭게 선택할 수 있다.

알트호프는 “기업이 특정 기술 공급업체에 종속되어서는 안 되는 것처럼 특정 AI 모델에도 종속되어서는 안 된다”라고 밝혔다. 또한 고객의 데이터와 지식재산(IP)은 보호되며, MS의 AI 모델 학습에는 사용되지 않는다고 설명했다.

MS는 액센추어, 캡제미니, EY, KPMG, PwC 등 글로벌 SI 및 FDE 파트너와 협력해 플랫폼을 확대할 계획이다. 런던증권거래소그룹(LSEG), 미국 농업·식품 협동조합 랜드올레이크스(Land O’Lakes), 유니레버, 노보 노디스크 등 초기 고객들은 이미 측정 가능한 성과를 거두고 있다고 알트호프는 전했다.

예를 들어 LSEG 워크스페이스에 탑재된 AI는 정형·비정형 금융 데이터를 기반으로 금융 전문가가 복잡한 질문을 던지고 신속하게 답을 얻을 수 있도록 지원한다. 알트호프는 고객 피드백과 실시간 사용자 테스트를 반복적으로 반영해 기반 시스템을 지속적으로 개선하고 있으며, 이를 통해 개발 주기를 단축하고 모델의 성능과 적용 범위를 꾸준히 확대하고 있다고 설명했다.

알트호프는 “지속적인 개선이 이뤄지는 AI 시스템을 구축하려면 산업에 대한 깊은 이해를 갖춘 엔터프라이즈 AI 엔지니어링 역량이 필요하다”라며 이것이 FDE의 핵심 가치라고 말했다.

구축 기간 대폭 단축하는 AWS FDE

AWS 프런티어 AI 엔지니어링 및 서비스 담당 부사장 프란체스카 바스케스는 블로그를 통해 AWS FDE가 숙련된 엔지니어를 고객의 비즈니스, 엔지니어링, 보안 조직에 직접 배치해 고객의 데이터와 업무 프로세스, 거버넌스 체계에 최적화된 AI 에이전트를 구축하고 배포하도록 지원한다고 밝혔다.

바스케스는 “기존 컨설팅은 시스템을 평가하고 권고안을 제시하며 각각의 구축 프로젝트를 독립적으로 수행하는 데 초점을 맞췄지만, AWS FDE는 장기적인 운영을 염두에 두고 AI를 구축한다”라고 설명했다.

이어 고객은 AI 구축에 필요한 역량과 업무 방식, 개발 패턴을 익히면서 단순한 관찰자에서 공동 개발자를 거쳐 AI를 독자적으로 운영하는 조직으로 성장하게 된다고 밝혔다.

바스케스는 AWS FDE가 에이전틱 AI를 중심으로 설계됐으며, 구축 기간을 기존 수개월에서 수일 수준으로 단축하는 것을 목표로 한다고 설명했다. 또한 프로젝트를 통해 축적된 비즈니스 인텔리전스는 이후 AI 프로젝트에도 지속적으로 활용될 수 있다고 말했다.

AWS AI 서비스를 직접 개발하는 엔지니어를 포함한 FDE 인력은 프로젝트를 검증하고 기술 지침을 제공한다. AWS는 플랫폼 확대를 위해 파트너를 대상으로 교육과 도구, 각종 지원도 강화하고 있다고 밝혔다.

또한 고객은 런북(Runbook)과 아키텍처 문서를 제공받으며, 시맨틱 계층을 통해 다양한 데이터 소스를 연결해 AI 에이전트가 추론할 수 있는 지식 그래프를 구축할 수 있다고 바스케스는 설명했다.

바스케스는 도메인 전문성이 고객의 코드와 AI 에이전트, 시스템에 축적되기 때문에 담당자가 바뀌더라도 조직의 핵심 지식이 유지된다고 설명했다. 또한 하드웨어 기반 격리와 종단 간 암호화 등 보안 기능도 함께 제공된다고 밝혔다.

바스케스는 AWS FDE가 단순히 AI를 시험적으로 도입하는 조직을 위한 서비스가 아니라 “실험 단계를 넘어 실제 비즈니스 프로세스에 AI를 운영하려는 기업을 위해 설계된 플랫폼”이라고 설명했다.

SI의 역할은 여전히 유효

독립 기술 컨설턴트 카미 레비는 SI가 수십 년 동안 높은 수익성을 바탕으로 고객과 긴밀한 관계를 구축해 온 만큼, 하이퍼스케일러가 이 시장의 일부를 직접 확보하려는 것은 “매우 자연스러운 전략”이라고 평가했다.

레비는 “MS와 아마존은 고객 락인(lock-in)을 강화하는 동시에 고객의 운영과 의사결정 과정에 더욱 깊이 관여할 수 있는 기회를 적극적으로 확대하려 하고 있다”라고 분석했다.

랜들은 인포테크 리서치 그룹의 자체 조사 결과 기업의 77%가 아직 전사 차원의 AI 전략을 수립하지 못한 것으로 나타났다고 소개했다. FDE는 고객의 실제 AI 시스템과 참조 아키텍처, 런북(Runbook), 각종 운영 산출물에 집중해 이러한 공백을 메우는 역할을 할 것이라고 설명했다.

반면 SI는 FDE와는 다른 가치를 제공한다고 랜들은 말했다. SI의 강점은 시스템 전반에 걸친 통합 역량과 변화 관리, 대규모 프로젝트 확장에 있으며, “SI가 제공하는 산출물은 보다 전략적이고 적용 범위도 훨씬 넓다”라고 설명했다.

물론 두 영역이 일부 겹치는 부분도 있다. 랜들은 MS가 앞으로도 글로벌 SI 파트너와 긴밀히 협력할 것으로 내다봤다. 또한 AI 투자 부담과 구현의 복잡성이 커지면서 하이퍼스케일러도 고객을 보다 밀착 지원하는 프리미엄 서비스를 제공해야 하는 압박을 받고 있다고 분석했다.

기업이 고려해야 할 사항

레비는 특정 AI 스택을 이미 선택한 기업이라면 단일 공급업체 전략을 수용할 수 있다는 전제 아래 이러한 플랫폼이 충분히 매력적인 선택지가 될 수 있다고 평가했다.

그는 “MS와 아마존이 가격과 서비스 측면에서 SI와 경쟁력을 확보한다면 충분히 매력적인 대안이 될 수 있다”라고 말했다. 다만 특정 공급업체의 서비스를 이용하면 선택의 폭이 줄어들 수 있으며, 이는 장기적으로 기업의 선택지를 제한하는 요인이 될 수 있다고 지적했다.

이어 이러한 플랫폼이 고객과 공급업체 가운데 누구에게 더 큰 가치를 제공하는지, 기존 대안보다 더 높은 효과를 제공하는지는 아직 검증되지 않았으며 결국 시장이 판단하게 될 것이라고 전망했다.

레비는 IT 의사결정자들에게 MS와 아마존의 에이전틱 AI 구축 역량을 SI와 비교하는 것은 물론, 이들 서비스가 실제로 고객의 이익을 최우선으로 설계된 것인지도 함께 검토해야 한다고 조언했다.

랜들 역시 기업은 무엇을 목표로 하는지 먼저 명확히 해야 한다고 강조했다. FDE는 특정 플랫폼에서 AI를 빠르고 정확하게 구축하는 데 강점을 갖고 있는 반면, SI는 이를 기업 전체의 복잡한 IT 환경으로 확장하고 통합하는 역할을 수행한다는 설명이다.

그는 AI 파일럿 단계를 넘어 신속하고 효과적으로 서비스를 구축하려는 기업에는 FDE가 적합하며, 이를 조직 전반의 복잡한 업무 프로세스로 확산해야 하는 단계에서는 SI의 역할이 더욱 중요해진다고 말했다.

랜들은 또 다른 고려 사항으로 “기본적인 AI 전략을 아직 수립하는 단계에 있거나 특정 클라우드에 종속되지 않는 전략을 유지하려는 기업에는 FDE가 적합하지 않다”라고 조언했다.
dl-ciokorea@foundryco.com