Procesamiento del lenguaje natural como parapeto del abuso y la violencia

En un escenario marcado por la violencia y el abuso, por el sufrimiento y el terror de las víctimas, la tecnología vuelve a ponerse de lado de la sociedad actuando como parapeto. Lo relata para CIO España Madeleine Janickyj, investigadora en procesamiento del lenguaje natural para el Consorcio sobre Violencia, Salud y Sociedad (VISION) en el University College de Londres. Así, en el marco de la última edición del Kaspersky Next, Janickyj descifra como aspiran a desarrollar un modelo informático para identificar casos de abuso tecnología mediante.

La investigación en la que la experta está envuelta en el momento en el que se produce la entrevista prácticamente echa a andar, “estamos en una fase inicial, en las primeras etapas”, comenta. Sin embargo, el objeto o razón de ser de la misma está más que consolidado: “Aspiramos a reducir cualquier daño o perjuicio a la salud causado por la violencia mejorando los datos que sustentan la teoría, las políticas y la práctica profesional en este sentido”.

VISION, explica la experta, nace como un importante consorcio de investigación al abrigo de la Asociación de Investigación en Prevención del Reino Unido (UKPRP), entidad encargada de su financiación. “El consorcio reúne a un grupo de organismos públicos, universidades y organizaciones del tercer sector para investigar la eficacia de las intervenciones a la hora de reducir la violencia y, así, erradicar los daños a la salud y las desigualdades”

El cometido de Janickyj en este contexto radica en emplear el procesamiento del lenguaje natural para identificar patrones en los relatos de víctimas de violencia y abuso, nutrir y entrenar con esos datos un sistema informático que clasifique las diferentes piezas de información y desarrollar finalmente un modelo para detectar casos de abuso a partir de la tecnología. “Nos centramos e inspiramos en modelos de clasificación reconocidos como Bart para llevar a cabo este cometido”.

“La idea pasa por tratar de captar mejor el alcance de los abusos para entender cómo afecta a las víctimas, qué es lo que están experimentando”. Con ello, además, ahondan en cuestiones o parámetros que se hayan podido pasar por alto con anterioridad: “¿Hay algo en lo que no hayamos pensado? ¿Qué es lo que no sabemos que puede marcar la diferencia a la hora de ayudar a las víctimas?”.

Anonimizar los datos, un desafío con mayúsculas

Para entrenar el modelo con información real, historias y experiencias veraces, el consorcio trabaja en estrecha colaboración con diversos proveedores de datos de diferentes servicios públicos en Reino Unido (incluidos la policía, la justicia y los profesionales de la salud), servicios especializados del tercer sector para supervivientes de violencia doméstica y sexual y encuestas nacionales. Un maremágnum de fuentes de información que complica la gestión y gobernanza de los datos para el equipo de profesionales a cargo. “Anonimizar y privatizar los datos ha sido el gran desafío con mayúsculas al que nos hemos enfrentado”, confiesa Janickyj.

“Trabajamos con información crucial, altamente sensible, que debía ser anonimizada y tratada antes de emplearla en la investigación para salvaguardar la privacidad de las víctimas y, en ocasiones, también su bienestar. No queremos que puedan ser identificadas”, ya que eso podría ponerlas en grave peligro. Así, gracias al loable y titánico esfuerzo del personal técnico a cargo, Janickyj y sus colegas no vislumbran ni un solo término que no debieran. “Se mantiene todo en un entorno de investigación seguro, ni siquiera podemos mover archivos fuera del perímetro de seguridad circunscrito, funciona de manera similar a un entorno virtual”.

Al ser preguntada sobre los datos sintéticos que muchas organizaciones y compañías emplean a la hora de nutrir sus investigaciones, la experta los descarta tajantemente. “En el caso concreto de nuestra investigación el valor añadido lo aportan las experiencias personales de las víctimas, queremos entender en una escala más amplia cómo podemos estar más cerca de hacer algo al respecto. En nuestro caso es importante contar con ejemplos de la vida real”.

Más es más

En materia de procesamiento del lenguaje natural y de la aplicación de la inteligencia artificial a la investigación científico-social, Janickyj defiende que se trata de “afinar” y “seguir desarrollando”. Así es como ella lo ve: “Hay ciertas cosas que la IA y los ordenadores son capaces de entender, otras cosas no son tan buenas todavía, pero hay que seguir insistiendo, continuar intentándolo”. A su juicio, una de las grandes dificultades tiene que ver con lograr que el modelo identifique el objeto de estudio correctamente y en encontrar el equilibrio entre el desarrollo del sistema informático y su coste. Y eso, concluye, solo será posible con el máximo grado de acierto, por lo que deben continuar remangándose y poniéndose manos a la obra.