JPMorgan Chase cimenta su estrategia de IA sobre AWS

JPMorgan Chase & Co. ha desplegado un asistente interno de IA apodado LLM Suite a más de 200.000 empleados. Así lo detalló este martes en AWS re:Invent Lori Beer, CIO global de JPMorgan Chase, que desgranó la evolución de la asociación entre el gigante de los servicios financieros y el hiperescalar y cómo la compañía está utilizando la plataforma de aprendizaje automático SageMaker y la de IA generativa Bedrock, ambas de AWS, no sólo para experimentación sino en producción.

“Ya estamos viendo el valor de algunos casos de uso de LLM Suite”, dijo Beer en la conferencia. “Nuestros banqueros y asesores reciben ideas generadas por IA para relacionarse mejor con los clientes. Nuestros agentes de viajes aprovechan los LLM para ayudar a crear y reservar itinerarios de viaje para nuestros clientes. Los trabajadores de nuestros centros de contacto resumen las transcripciones de las llamadas y proporcionan información a gran escala. Y nuestros desarrolladores utilizan herramientas de generación de código de IA. Actualmente estamos explorando formas para aprovechar los agentes de IA de los desarrolladores en paralelo”.

Como parte de su inversión de 17.000 millones de dólares en tecnología, JPMorgan Chase no rehúye la IA generativa –aunque muchas empresas de servicios financieros son herméticas sobre el uso en producción–. “Nunca ha habido un momento más emocionante para liderar una empresa a través de una transformación”, según Beer. “Estoy entusiasmada con la próxima ola de evolución tecnológica”.

Amazon ha anunciado varias mejoras a su plataforma Bedrock GenAI en su evento de esta semana, incluyendo la reducción de alucinaciones y mejores barreras de seguridad, factores que han impedido a muchas empresas –en particular, a gigantes de servicios financieros– salir de la experimentación de prueba de concepto (POC) y pasar a la producción. JP Morgan Chase ha dado la vuelta a esos temores. “Hoy en día, estamos desbloqueando activamente casos de uso de IA generativa y trabajando con AWS en su hoja de ruta Bedrock”, señaló Beer, que también habló en el encuentro hace cuatro años, cuando la compañía tenía 100 aplicaciones en AWS.

“Hemos creado una arquitectura en la nube que nos ha permitido modernizar nuestras plataformas empresariales y construir otras completamente nuevas, lo que nos ha posibilitado innovar continuamente”. Explicó que la modernización puede apreciarse en sus negocios de mercados y pagos, así como en Chase.com para plataformas insignia y mercados y pagos. “Cantidades masivas de computación elástica y modernos servicios en la nube nos han ayudado a analizar el riesgo y la volatilidad del mercado”, indicó. “La modernización en [Elastic Compute Cloud] de AWS nos permite ser uno de los mayores procesadores de pagos del mundo”, añadió la CIO global.

Hace dos años, JPMorgan Chase migró su aplicación de consumo Chase.com y su aplicación móvil a AWS, reduciendo costes y aumentando la resiliencia, según la directiva, que indicó que esto se logró mediante el uso de capacidades de configuración activa a través de múltiples regiones de AWS. “El fuerte enfoque de resiliencia permite que si fallan dos de tres regiones esto no impacte en el cliente, pero el enrutamiento optimizado por geografía también ha mejorado nuestra experiencia general del cliente”, según la directiva. “Nuestra sólida asociación con AWS garantiza que el conjunto de infraestructura se actualice con frecuencia y automáticamente para mejorar nuestra posición de riesgo y resiliencia y cumplir con nuestros controles de seguridad”.

La ventaja de la nube

El viaje a la nube de JPMorgan Chase con AWS comenzó en 2020. El lanzamiento de su banco de consumo Chase en el Reino Unido fue “construido desde cero en AWS”, recordó Beer. En 2023, la compañía tenía casi 1.000 aplicaciones ejecutándose en el hiperescalar, incluidos servicios básicos como depósitos y pagos. JPMorgan también ha hecho uso de los procesadores Graviton de AWS.

La compañía, con 225 años de antigüedad, gestiona alrededor del 50% de todas las transacciones de comercio electrónico en Estados Unidos, y ha tenido un papel fundamental durante las rebajas del Black Friday y el Cyber Monday del pasado fin de semana. “Esta es la razón por la que hemos estado reinventando la forma en que construimos la infraestructura global de banca y pagos, y por la que hemos impulsado el elemento del ‘arte de lo posible’ en la nube”, señaló.

En una entrevista reciente con esta publicación, el CIO de Chase, Gill Haus, coincidió en que la mayoría de las transacciones con tarjetas de crédito siguen ‘tocadas’ por el mainframe, pero señaló que el desarrollo de la plataforma de depósitos de Chase ofrece a la empresa más oportunidades para las transacciones de comercio electrónico en nubes privadas y públicas.

Ampliación de su asociación para la IA

Beer también dio detalles sobre la evolución de la colaboración de JPMorgan Chase en materia de datos y análisis, que encaja con varias mejoras y productos de AWS anunciados en re:Invent. Entre estos anuncios destacan SageMaker Unified Studio, que ofrecerá a los desarrolladores una visión única de los datos empresariales, y SageMaker LakeHouse.

Por ejemplo, JPMorgan Chase ha lanzado un nuevo negocio que aprovecha AWS Fusion para proporcionar una plataforma de gestión de datos y análisis a lo largo de los ciclos de vida de las inversiones, mejorando la interoperabilidad entre múltiples fuentes de datos y proporcionando a los clientes institucionales acceso a amplias bases de datos a escala, apuntó  Beer. “Tenemos casi un exabyte de datos, lo que lo convierte en uno de nuestros activos más críticos, especialmente a medida que integramos cada vez más la IA en la forma en que modernizamos y construimos nuestra tecnología con la ayuda de herramientas de gestión de datos de AWS como [AWS] Glue. Nuestros datos son detectables, accesibles, interoperables y reutilizables en nuestra plataforma segura de datos e IA de extremo a extremo”, afirmó.

La plataforma de datos e IA de JPMorgan Chase nos está “capacitando para construir la próxima ola de aplicaciones de IA”, según Beer. “SageMaker nos está ayudando a simplificar el ciclo de vida de desarrollo de modelos, desde la experimentación hasta el despliegue de modelos en producción”, dijo. “Es la base de nuestra plataforma de IA para toda la firma, que diseñamos para ser repetible con una arquitectura extensible, para que nuestros científicos de datos puedan aprovechar una gama de las mejores soluciones de su clase del ecosistema”.

La CIO desveló que 5.000 empleados de la empresa utilizan SageMaker. Ahora que más de 200.000 empleados utilizan LLM Suite, la colaboración se está ampliando. “Estamos empezando a explorar Bedrock con el objetivo de proporcionar a los científicos de datos un acceso sin fisuras a más modelos que se pueden afinar en nuestros datos. Nuestro objetivo es utilizar la IA genérica a escala, y seguimos aprendiendo cómo aprovechar mejor estas nuevas capacidades innovadoras dentro de la empresa regulada”.

La directiva dijo que la asociación de la firma con AWS garantiza que su infraestructura se actualice con frecuencia y automáticamente para mejorar la posición de riesgo y resiliencia de la empresa y cumplir con sus controles de seguridad. “Aunque el sector ha evolucionado drásticamente en los últimos cuatro años, los principios básicos de nuestro programa de nube no lo han hecho. Seguimos centrados en establecer una base de seguridad sólida que sea resistente y represente nuestro sólido marco regulatorio, priorizando la modernización tanto en el negocio como en la tecnología, habilitando servicios innovadores como IA y serverless para impulsar el desarrollo de nuevos productos y acelerar nuestra salida al mercado, siendo reflexivos y priorizando la migración para los casos de uso más impactantes”, concluyó Beer.