“AI 시대를 위한 본격 준비”··· 마시맥레넌의 IT 조직 개편 사례

세계 최대 규모의 리스크 자문사이자 보험 중개 업체인 마시맥레넌은 5년 전 대대적인 디지털 트랜스포메이션에 착수했다. 고객사들이 디지털 정보 시대에 부상하는 정치적, 사회적, 경제적 변화에 더 잘 적응하도록 지원하기 위해서였다.

마시맥레넌에서 23년간 전략 컨설턴트로 일했던 폴 베스윅은 당시 리스크, 보험, 컨설팅 서비스 분야의 글로벌 디지털 사업을 재출범하는 임무를 맡게 됐다.

마시맥레넌은 사업 부문은 총 4개로 구성돼 있다. 보험 중개사인 마시(Marsh), 보험사에 보험을 제공하는 재보험 중개사인 가이 카펜터(Guy Carpenter), 전 세계 기업을 대상으로 건강, 복리후생, 자산관리, 경력개발, 컨설팅, HR, 교육을 담당하는 머서(Mercer), 그리고 베스윅이 1995년 여름 인턴으로 시작한 경영 컨설팅 부문인 올리버 와이먼(Oliver Wyman)이다.

베스윅의 첫 과제는 4개 사업 부문의 IT 조직을 통합해 MM테크(MMTech)라는 단일 기술 조직을 만드는 일이었다. 현재 MM테크는 직원 수 약 5,000명의 조직으로 성장했다. 최근에는 전사적 조직 개편을 단행해 4개 사업 부문 간의 연계를 강화하고, 디지털 중심 미래를 위한 공통 기술 플랫폼을 구축했다.

베스윅은 “IT 조직을 하나로 통합하고, 공유와 협력, 재사용을 추구하며 표준을 맞추고, 역사적으로 존재해 온 조직 간 마찰을 해소하는 하나의 팀 문화를 구축할 기회였다”라고 설명했다. 그는 CIO 직책을 맡기 전까지 약 5억 달러의 예산으로 500명의 파트너를 이끌었던 경영 컨설턴트였다. 처음에는 이 자리를 고사했지만, 마시맥레넌의 디지털 여정을 이끌 수 있다는 가능성에 설득돼 수락했다고 전했다.

마시맥레넌에 있어 디지털 트랜스포메이션은 중요한 단계였다. 전문 서비스 부문은 현대 기업이 직면한 리스크, 변화, 도전 과제에 대한 조언을 고객사에 제공하며, 특히 비즈니스와 세계 무대에서 기술이 수행하는 핵심적인 역할에 주목하고 있다.

예를 들어 최근 보고서인 ‘2024년 정치적 리스크’는 선거 정치에서 AI의 허위 정보와 왜곡 정보 생산 능력을 강조했다. 특히 ‘선거 관련 폭력’ 가능성을 고려하면 모든 고객사가 비즈니스의 불확실성을 헤쳐나가기 위해 대비해야 할 사항이다.

보고서는 “선거는 시민 불안도와 연관이 있다. 2024년에 열릴 선거를 고려하면 선거 관련 폭력의 위험도 높아질 전망”이라고 지적했다. 이런 위험을 더 악화시키는 요인은 잘 알려지지 않은 새로운 요소, 즉 허위 정보와 왜곡 정보를 증폭시킬 AI의 잠재력이다. 보고서는 “미국 정부는 이미 중국, 러시아, 이란 정부가 이런 목적으로 AI의 무기화를 시도했다고 비난한 바 있다”라고 언급했다.

마찰을 줄이기 위한 플랫폼 구축 전략

마시맥레넌은 지금까지 여러 전략적 데이터센터를 운영해 왔다. 그중 일부 워크로드는 자연스럽게 클라우드에서 생성됐다. 베스윅은 MM테크 통합 전략의 일환으로 데이터센터를 폐쇄하기로 결정했다. 대신 AWS를 주요 클라우드 제공업체로 선정하고, 표준화된 기준과 기본 계층을 갖춘 ‘전사적 아키텍처 조직’을 구성해 클라우드 기반 애플리케이션과 워크로드를 개발하기로 했다.

하지만 혁신을 시작하기 전에 몇 가지 주요 목표를 달성해야 했다.

우선 중앙 인프라 조직과 각 사업 부문의 기술 전략이 불일치해 효율성이 떨어지고 내부 마찰 및 불건전한 행동이 발생하는 상황을 해결해야 했다.

사업 부문 간 불일치 문제를 해결하기 위해 MM테크는 거버넌스와 강력한 보안 서비스를 갖춘 핵심 플랫폼을 구축했다. 이를 통해 애플리케이션을 신속하게 구축하고 운영하도록 지원했다.

베스윅은 며칠 만에 애플리케이션을 만들도록 지원하겠다는 목표가 있었다면서, 매우 높은 기준이었다고 말했다.

그는 “필요한 거버넌스가 사전 설계되고 비용도 최적화된 완성형 플랫폼이다. 현재 새로운 애플리케이션을 구축하는 경우 실행 사이트에 세부 정보를 입력하면 20분 만에 코드 저장소와 다단계 인증이 연결된 비밀 저장소가 우리 클러스터에서 실행된다”라고 설명했다.

MM테크는 전체 중요 서비스가 내장된 핵심 개발 플랫폼을 지속적으로 개선 및 사용하고 있다. 모든 애플리케이션을 며칠 만에 구축할 수는 없지만 “일주일 내로 빠르게 실행하고 프로세스를 진행할 수 있으며, 이는 마찰을 해소하는 과정의 일부다”라고 베스윅은 언급했다.

분석 및 AI의 표준 설정

핵심 개발 플랫폼이 개선되는 동안, 마시맥레넌은 계속해서 워크로드를 AWS와 애저(Azure), 그리고 오라클 클라우드 인프라스트럭처(OCI)와 구글 클라우드 플랫폼(GCP)으로 이전했다. 여러 코로케이션 센터가 기업의 나머지 워크로드를 호스팅하고 모든 워크로드가 이전되면, 마시맥레넌의 대형 데이터센터는 없어질 것이라고 베스윅은 설명했다.

이와 동시에 회사 데이터와 분석 플랫폼을 통합한다는 과제가 있었다. 이전까지만 해도 4개 사업 부문에 걸쳐 200명 이상의 팀원이 사용하는 BI와 분석 도구가 혼재됐다. 베스윅은 다시 한번 최대 효율성을 제공하는 표준 플랫폼을 찾아야 했다. AWS와 애저 모두에서 분석, 머신러닝, AI를 실행하기 위해 데이터브릭스 플랫폼을 구축하기로 결정했다.

베스윅은 마시맥레넌의 표준에 따라 구성된 데이터브릭스 플랫폼이 기업의 핵심 자산이 됐다고 설명했다. 중앙 통제를 제공하면서도 데이터 정리와 조합에 유용하기 때문이다. 또한 분석과 AI 모두에 필수적인 역할을 하는 플랫폼으로 발전하고 있다.

베스윅은 “이는 보유한 데이터를 바탕으로 비즈니스와 고객을 위한 인사이트를 도출하려는 조직 구성원들을 위한 플랫폼이다. CIO로서 실제 운영이 가능하고 확장 가능한 쉽고 안전한 출구를 제공하고 싶다. 주요 과제는 데이터다. 데이터는 파편화돼 있고, 소유권이 불분명한 경우가 많으며, 품질이 다양하다. 또한 새로운 데이터는 이를 분류하고 정리하는 속도보다 더 빠르게 생성된다”라고 말했다.

한편 마시맥레넌은 수년간 예측, 이상 감지, 보험금 청구 처리의 이미지 인식을 위해 머신러닝(ML) 알고리즘을 사용해 왔다. 최근에는 데이터브릭스를 통해 생성형 AI 여정도 시작했다. 베스윅에 따르면 약 18개월 전 생성형 AI 어시스턴트를 시범 운영했으며, 현재 전 세계 9만 명의 직원이 어시스턴트를 통해 월 200만 건의 요청을 처리한다.

또한 베스윅은 원하는 보안을 제공하는 마이크로소프트의 오픈AI 구현을 기반으로 광범위한 생성형 AI 활동을 준비하고 있다. 그는 마시맥레넌의 생성형 AI 플랫폼이 개발 및 분석 플랫폼과 마찬가지로 업계 표준 제품을 사용하지만 인터페이스, 도구, 핵심 서비스, 그리고 ‘모델이 자체적으로 수행하는 것 이상의’ 향상된 기능을 MM테크가 구축했다고 말했다. 이 플랫폼에는 워드, 아웃룩, 파워포인트용 맞춤형 플러그인이 포함됐다.

베스윅은 “사실상 마시맥레넌만의 코파일럿 버전”이라며, 표준화 접근 방식의 또 다른 이점이 비용에 있다고 언급했다. 그는 “마이크로소프트 라이선스 비용의 약 1% 수준이다”라고 말했다.

생성형 AI 계획

향후에 범위를 넓힐 계획이 있지만, 현재 개발되고 학습되는 생성형 AI는 환각 현상과 데이터 유출을 방지하기 위해 내부에서만 사용된다. 베스윅은 ML과 생성형 AI가 별개이기 때문에 서로 분리해서 다뤄야 한다고 강조했다.

그에 따르면 생성형 AI 실제 사용 사례는 문서 작성 및 이메일 발송, 번역, 문서 요약, 고객 리서치 등 약 40개가 있다. MM테크는 PDF와 같은 다양한 문서 유형을 지원하기 위해 데이터 스키마 추출기를 구축했다.

회사는 또한 ‘렌 AI’라는 자체 생성형 AI 플랫폼용 아바타를 개발했다. 이를 통해 직원들은 자연어를 사용해 데이터를 분석할 수 있다. 베스윅은 “수십만 행의 데이터를 다루고, 원하는 것을 설명하면 AI가 그 분석을 수행하는 쿼리를 작성하는 방법을 파악한다”라고 설명했다. 이와 더불어 특정 지식 기반을 위한 Q&A 챗봇의 확장 버전인 ‘마이크로 렌 AI’도 구축했다고 그는 덧붙였다.

베스윅은 “생성형 AI는 모델이 사전 학습되기 때문에 기존 머신러닝 모델과 상당히 다르다. 유연하고 새로운 기능에 액세스하기 쉽다. 또한 심층적인 데이터 과학 역량도 덜 요구된다”라고 말했다.

생성형 AI를 지원하기 위해 마시맥레넌은 직원용 AI 아카데미를 설립했다. 지난 1년간 팀은 직원 수만 명에게 여러 생성형 AI 도구를 제공했다. 그는 약 100만 시간의 노동력을 절감했다고 말했지만, 정확한 가치 측정은 어렵다고 덧붙였다.

그에 따르면 생성형 AI는 많은 ‘단순 반복’ 작업에 효과적이었다. 다만 자문 서비스 분야에서 사람의 전문성을 대체할 수 있다고 보기에는 이르다. 그 시점에 도달했을 때 도약할 기반을 만드는 데 집중하고 있지만, 회사의 특성상 리스크는 신중히 고려할 문제다.

그럼에도 불구하고 그는 ‘자동화의 새로운 지평’으로 나아가고 있는 생성형 AI가 수백만 달러의 가치를 창출할 것이라고 봤다. 계속해서 경영진과 협력하긴 하지만 AI 작업은 MM테크에서 주도하고 있다. 그는 지금이 IT 부서에게 특별한 기회라고 보고 있다. 모든 사업 부문이 필요성을 인정하고 높은 가치를 예상하는 기술을 초기 단계부터 주도할 수 있다는 이유에서다.

베스윅은 “아마도 직장 생활을 하는 동안 한 번 있을까 말까 한 기회다. 기술 조직은 대개 특정 프로젝트를 수행하거나 위기 상황일 때 인정받는다. 마시맥레넌 같은 기업에서 새로운 기술을 도입하고 선제적으로 추진할 기회는 매우 드물다. 게다가 회사도 그 가치를 인정하고 있다”라고 덧붙였다.
dl-ciokorea@foundryco.com