La banca se enfrenta al reto de llevar la IA a producción con gobernanza y datos sólidos

Babel ha dado a conocer los resultados del informe Babel Banking Radar: Agentic Financial Crime, en colaboración con Digit Institute, cuya conclusión es que el principal reto de la IA en banca ya no es el acceso a la tecnología, sino su implantación real en producción con control, trazabilidad y gobernanza.

En el informe se recalca que muchas entidades siguen en fase de prueba, mientras que los ciberdelincuentes ya utilizan automatización avanzada para sofisticar el fraude.

Asimismo, el gran obstáculo identificado en el informe es la fragmentación del dato y la falta de gobernanza, lo que dificulta el despliegue de sistemas de IA fiables en entornos críticos. Tanto es así que, como pondera, sin datos coherentes, la IA pierde eficacia y también puede amplificar errores.

Otra de las cuestiones que aborda el informe es el desfase que presenta el sector bancario en cuanto al uso de la IA. Si bien muchas organizaciones la consideran estratégica, pocas son las que han llevado estos sistemas a producción, y muchas carecen de mecanismos adecuados de supervisión y monitorización.

En consecuencia, el informe reconoce que la siguiente fase de adopción no se centrará en la experimentación, sino en la integración, operación y supervisión de la IA en condiciones reales, con especial atención a la calidad del dato, la seguridad y el cumplimiento normativo. De tal manera que aquellas organizaciones que avancen en estos aspectos serán las que tengan ventaja dentro del sector.

Con motivo de la presentación de este informe, CIO España ha mantenido un encuentro con Marga García, directora del sector Banca en Babel, en el que lo primero que ha hecho es explicar que, una vez realizado el informe, la compañía desarrolló un foro con las principales entidades financieras españolas, donde contrastó sus conclusiones con expertos multidisciplinares.

“Había gente de compliance, de financial crime, pero también de IA y de tecnología. Contrastamos que las conclusiones iban en la línea adecuada”, aclara.

Asimismo, también recalca que “partimos de la base de que el crimen financiero opera a escala global. Nuestros clientes de banca española también operan en todo el mundo, por lo que el radar es global en el sentido de que combinamos datos de España con datos internacionales. No está circunscrito a una sola geografía. Esto nos ha permitido comprobar qué nivel de madurez tiene la banca española frente a un crimen financiero que ya se ha automatizado completamente”.

Análisis del informe

Marga García disecciona para CIO España algunas de las conclusiones del informe elaborado por Babel en colaboración con Digital Institute.

“Partimos de una afirmación: el crimen financiero opera ya a escala de máquina. Esto se puede comprobar con datos como los que se incluyen en el informe, donde el fraude con IA en Estados Unidos se ha multiplicado por tres y los deepfakes por veinte. La única forma que tienen los atacantes de llevar a cabo este tipo de fraudes es automatizar procesos completos”.

El modo de actuar de los atacantes, según Marga García, consiste en desplegar flotas de agentes que automatizan todo el ciclo: creación de identidades sintéticas, capacidad para engañar determinados procesos de onboarding de clientes, esquivar verificaciones biométricas…

“Partiendo de esa base, lo que decimos es que los atacantes ya están utilizando IA agente a gran escala, y los bancos tienen la misma herramienta, pero están construyendo esa capacidad para defenderse a un ritmo más lento”, admite, para añadir: “Ya hay informes que indican que sólo un 11% de la banca mundial está operando con esta tecnología. Y aun así, esto resulta insuficiente, porque las Naciones Unidas señalan que sólo se intercepta un 1% del dinero ligado al crimen financiero. Es decir, hay todavía muchísimo margen de mejora para que la banca siga invirtiendo en la detección de estas amenazas”.

Otro dato que Marga García desea resaltar es el “ruido” que existe en cuanto al crimen financiero. Y lo explica de esta manera: “Entre el 90% y el 95% de las alertas que revisan los equipos de prevención son falsas. Esta es una estimación de la industria recogida en el informe. Hay muchos equipos y profesionales cualificados dedicados a investigar este volumen de alertas de bajo valor. Además, aunque hace un año el Banco de España publicaba que el crimen financiero había disminuido un 3,5%, en realidad, al analizar más a fondo los datos, se ve que lo que ha ocurrido es que ha mutado”.

Para más inri, García destaca del informe que un 80% del fraude en transferencias es voluntario, “en el sentido de que lo ejecuta el propio cliente, pero no porque quiera asumir ese riesgo, sino porque ha sido engañado”.

En consecuencia, reconoce que “nuestros sistemas están preparados para detectar anomalías, pero no tanto para identificar intenciones de engaño. Por eso ponemos el foco en entender mejor el contexto del cliente para abordar el problema de otra manera”.

Trazabilidad, explicabilidad y reversibilidad

El informe insiste en que “sin dato coherente no hay IA fiable”, lo que da lugar a una serie de problemas de gobernanza y calidad del dato que impiden a la banca desplegar agentes de IA de forma segura.

“Hay tres aspectos clave: trazabilidad, explicabilidad y reversibilidad”, responde al respecto; teniendo en cuenta, como precisa, que “estamos hablando de agentes que actúan en el perímetro que se les permite. Hay decisiones donde no se les puede dar autonomía total. Por ejemplo, cancelar la cuenta a un cliente no es reversible, tampoco ejecutar una transferencia o reportar directamente al regulador. Por consiguiente, si los datos necesarios para analizar el contexto del cliente no están suficientemente depurados, el resultado tampoco será fiable. Por eso creemos que hay margen de mejora en la calidad del dato, pero también en definir bien los límites de intervención humana para garantizar que los procesos sean reversibles”.

Claves para pasar de un piloto a producción

Visto lo visto, el reto ya no es acceder a la tecnología, sino operarla con trazabilidad y supervisión. Por lo tanto, el CIO bancario se enfrenta a una serie de retos si quiere pasar de piloto a producción en lo que al desarrollo de agentes de IA se refiere.

“Para pasar de un piloto a producción se deberían cumplir esos tres criterios que he explicado con anterioridad: trazabilidad, explicabilidad y reversibilidad. Al final, si los agentes van dejando traza de todas las operaciones, qué hacen, por dónde pasan, qué datos consultan, y todo es auditable, estamos en el escenario adecuado.

Entonces, la directora de Banca de Babel considera que la propia tecnología ya cuenta con sistemas de monitorización y trazabilidad. “Por tanto, para el CIO sería clave tener ese marco o “freno” de gobernanza que asegure que la operación puede ser trazable”, añade.

La guerra del fraude impulsado por IA

Otra de las cuestiones que menciona el informe es la carrera del fraude impulsado por la IA, en la que parece que, como suele ocurrir, los malos parten con cierta ventaja.

Lo primero que precisa es que “el estudio se basa en datos públicos contrastados. Eso no significa que las entidades financieras no estén avanzando en la lucha contra el fraude con IA agente. Lo que creemos es que algunas, sobre todo las españolas, no lo han comunicado”.

Dicho lo cual, explica que los principales bancos, como BBVA, Santander o CaixaBank, están haciendo una apuesta muy importante en adopción de la IA.

“Para nosotros, adoptar la IA y aplicarla en procesos de IA agente son dos cosas distintas, porque puedes quedarte en un uso tipo copiloto, y eso sí lo han reportado todos. Lo que no han terminado de reportar, aunque muchos lo están trabajando, es cómo lo están aplicando en términos de agente, con agentes que operan y participan en parte de las operaciones”.

Entonces, los elementos mínimos que debe tener un banco hoy en día para considerar que la IA es auditada y confiable pasan —de nuevo— por la trazabilidad, explicabilidad y reversibilidad, según Marga García.

“Además, son los elementos que hacen compatible la IA con las principales normativas, como el AI Act, DORA y el resto de regulación que actualmente exige un mayor nivel de control”, dice para concluir el encuentro.