“美 이커머스 거래 절반 처리··· 현대화 중요했다” JP모건 체이스의 AWS 기반 클라우드·AI 여정

JP모건은 초기 AI 투자를 통해 ‘LLM 스위트(LLM Suite)’라는 사내 AI 비서를 20만 명 이상의 직원에게 배포했으며, 이를 통해 실질적인 가치를 창출하고 있다고 밝혔다.

최근 개최된 AWS 리인벤트 행사에서 CIO 로리 비어는 JP모건과 AWS의 파트너십 현황을 소개했다. 그에 따르면 JP모건은 AWS 세이지메이커 머신러닝 플랫폼과 AWS 베드록 생성형 AI 플랫폼을 실험 단계를 넘어 실제 애플리케이션으로 확장하고 있다.

비어는 “LLM 스위트 활용 사례에서 가치가 창출되고 있다. 은행원과 어드바이저는 고객과의 소통을 개선하기 위해 AI 생성 아이디어를 활용하고 있다. 여행 상담원은 LLM을 활용해 고객의 여행 일정을 수립하고 예약하며, 콜센터 직원은 통화 내용을 요약하고 인사이트를 제공한다. 또한 개발자는 AI 코드 생성 도구를 사용한다. 현재 개발자 AI 에이전트를 동시에 활용할 수 있는 방법을 모색 중이다”라고 말했다.

많은 금융 서비스 기업이 실제 AI 활용 사례에 대해 말을 아끼고 있지만, JP모건은 170억 달러의 기술 투자를 통해 생성형 AI를 적극적으로 도입하고 있다. 비어는 “기업의 혁신을 이끄는 데 있어 지금처럼 흥미진진한 시기는 없었다. 다음 기술 혁신의 물결이 기대된다”라고 밝혔다.

AWS는 이번 행사에서 베드록 생성형 AI 플랫폼의 여러 개선 사항을 발표했다. 환각 현상 감소와 보안 가드레일 개선 사항도 포함됐다. 이는 많은 기업, 특히 금융 서비스 기업에서 개념 증명(PoC)을 넘어 실제 운영 단계로 나아가지 못하게 하는 주요 요인이었다.

JP모건은 이런 우려를 불식시킨 사례로 소개됐다. 4년 전 AWS에서 100여 개의 애플리케이션을 운영하던 시기에 리인벤트 행사에서 연설하기도 했던 비어는 “이제 JP모건은 생성형 AI 사용 사례를 적극적으로 발굴하고 AWS와 베드록 로드맵을 함께 진행하고 있다”라고 언급했다.

그는 “클라우드 기반 아키텍처를 통해 비즈니스 플랫폼을 현대화하고 새로운 플랫폼을 구축했다. 이를 통해 지속적인 혁신이 가능했다. 현대화의 대표 사용 사례 3가지는 시장과 결제 사업, 그리고 체이스뱅크다. 특히 시장과 결제 플랫폼에서는 대규모 엘라스틱 컴퓨트 클라우드(EC2) 서비스가 리스크 및 시장 변동성 분석에 도움을 줬다. AWS의 EC2를 통한 현대화로 JP모건은 세계 최대 결제 처리 기업이 될 수 있었다”라고 설명했다.

또한 JP모건은 2년 전 체이스뱅크의 소비자 및 모바일 애플리케이션을 AWS로 이전했다. 비어에 따르면 여러 AWS 지역에서 액티브 구성 기능을 통해 달성할 수 있었으며, 결과적으로 비용 절감과 회복 탄력성 향상으로 이어졌다.

비어는 “강력한 회복 탄력성 덕분에 지역 3곳 중 2곳에서 장애가 발생해도 고객에게 영향을 주지 않는다. 지리적으로 최적화된 라우팅을 통해 전반적인 고객 경험도 개선됐다. AWS와의 강력한 파트너십을 통해 인프라 스택은 자주 자동으로 업데이트되며, 이로써 리스크와 회복 탄력성을 개선하고 보안 통제 요구 사항을 충족할 수 있었다”라고 설명했다.

클라우드 여정

JP모건에서 AWS 기반 클라우드 여정은 2020년 시작됐다. 비어는 영국에서 체이스뱅크를 출범할 때 시작부터 AWS 기반으로 구축했다고 말했다. 2023년에는 예금 및 결제 등 핵심 서비스를 포함해 거의 1,000개의 애플리케이션이 AWS에서 운영됐다. JP모건은 긴밀한 파트너십의 일환으로 AWS 그래비톤(Graviton) 프로세서도 활용하고 있다.

225년 역사의 JP모건은 미국 이커머스 거래의 약 50%를 처리한다. 이는 최근 블랙프라이데이와 사이버먼데이 대규모 세일 기간에도 중요한 역할을 했다. 비어는 “막대한 트래픽은 우리가 글로벌 뱅킹과 결제 인프라를 재창조하고 클라우드에서 가능성의 한계를 확장한 이유”라고 말했다.

최근 CIO닷컴과의 인터뷰에서 체이스뱅크 CIO 길 하우스는 대부분의 신용카드 거래가 여전히 메인프레임을 통해 처리되지만, 예금 플랫폼 개발로 인해 프라이빗 및 퍼블릭 클라우드에서 이커머스 거래를 처리할 기회가 더 많아졌다고 언급했다.

AI를 위한 파트너십 확대

비어는 데이터 및 분석에 대한 협업 확대도 설명했는데, 이는 리인벤트 행사에서 발표된 여러 AWS 개선사항 및 제품과 맥을 같이한다. 주요 발표 사항에는 기업 데이터의 단일 뷰를 제공하는 세이지메이커 통합 스튜디오와 세이지메이커 레이크하우스가 있다.

예를 들어 JP모건은 AWS 퓨전을 활용해 투자 수명 주기 전반에 걸친 데이터 관리 플랫폼과 분석을 제공하는 새로운 사업을 시작했다. 비어는 여러 데이터 소스 간의 상호 운용성을 개선하고 기관 고객에게 대규모 데이터 기반 접근을 제공한다고 설명했다.

비어는 “JP모건은 엑사바이트 규모의 데이터를 보유하고 있으며, 이는 가장 중요한 자산이다. AWS 글루(Glue)와 같은 데이터 관리 도구의 도움으로 기술을 현대화하고 구축하는 과정에서 AI를 점점 더 많이 활용하고 있다. 데이터는 안전한 엔드-투-엔드 데이터 및 AI 플랫폼에서 검색, 액세스, 상호 운용, 재사용이 가능하다. 이를 통해 회사는 다음 세대 AI 애플리케이션을 준비할 동력을 얻을 수 있다”라고 말했다.

그는 또한 “세이지메이커는 실험부터 프로덕션 환경에서의 모델 배포에 이르는 모델 개발 수명 주기를 단순화하는 데 유용하다. 반복 및 확장 가능한 아키텍처로 설계된 전사적 AI 플랫폼의 기반이며, 데이터 과학자는 이를 통해 생태계 내 최고급 솔루션을 활용할 수 있다”라고 말했다. 그에 따르면 현재 5,000명의 직원이 세이지메이커를 사용하고 있다.

여기에 20만 명 이상의 직원이 LLM 스위트를 사용하며 협업을 확대하고 있다. 비어는 “이제 베드록을 탐색하기 시작했다. 목표는 데이터 과학자가 자사 데이터로 미세 조정할 수 있는 더 많은 모델에 원할하게 접근하도록 하는 것이다. 결국에는 규모에 맞는 생성형 AI 사용이 목적이며, 규제 대상인 JP모건에서 혁신적인 기능을 최대한 활용할 방법을 계속해서 연구하고 있다”라고 설명했다.

비어는 또한 AWS와의 파트너십을 통해 회사의 리스크 및 회복 탄력성 상태를 개선하고 보안 통제 요구 사항을 충족하기 위해 인프라 스택을 자주, 자동으로 업데이트할 수 있다고 말했다.

그는 “지난 4년간 업계가 극적으로 발전했지만, JP모건의 클라우드 핵심 원칙은 변하지 않았다. 여전히 강력한 규제 프레임워크를 대표하는 강력한 보안 기반을 구축하고, 비즈니스와 기술 전반에 걸쳐 현대화를 우선시하고, AI나 서버리스 같은 혁신적 서비스를 통해 신제품 개발을 추진하고 시장 출시를 가속화하며, 영향력 있는 사용 사례에 대한 신중한 마이그레이션을 우선시하는 데 집중하고 있다”라고 덧붙였다.
[email protected]