Las mejoras en la tecnología de inteligencia artificial han proporcionado a las fuerzas del orden un conjunto completamente nuevo de herramientas que pueden utilizar para intentar identificar y detener diversas formas de esclavitud moderna. Sin embargo, según un artículo reciente en Política exteriorLa IA es una herramienta que funciona en ambos sentidos. Ha ayudado a descubrir casos de trata que antes habrían pasado desapercibidos, pero también ha arrastrado a personas inocentes a la trama, lo que ha afectado negativamente a sus vidas.
¿Normal o anormal? La IA te lo dirá
ThetaRay es una empresa de detección de delitos financieros basada en inteligencia artificial que utiliza esta tecnología para detectar patrones. Cuando algo no coincide con esos patrones, puede indicar que se está cometiendo un delito. Recientemente, un banco utilizó ThetaRay para analizar los pagos regulares que realizaban sus clientes. La inteligencia artificial detectó una actividad inusual en la cuenta de un cliente bancario en particular. Esa alerta finalmente descubrió una red de tráfico de personas.
Peter Reynolds, director ejecutivo de ThetaRay dijo:
“Al comprender qué es normal, la IA nos dirá rápidamente qué no es normal, y aquello que no parece normal es potencialmente un delito”.
Sin embargo, los bancos monitorean y analizan millones de transacciones. Y aunque algunas anomalías pueden indicar un delito, no todas las desviaciones son delictivas. Los sitios web que se pueden usar para vender automóviles, computadoras y más también pueden vender servicios para adultos genuinos que no están relacionados con la esclavitud moderna o la explotación. Por eso, aunque reconocen el potencial, algunos están dando la voz de alarma. Y la recopilación de datos sobre poblaciones marginadas y la automatización de decisiones puede conducir a daños no intencionales, dicen las organizaciones de derechos humanos y los sobrevivientes.
Una fuerza para el bien y el mal
En los últimos años, la tecnología de inteligencia artificial se ha incorporado de una forma u otra a casi todos los sectores, y el sector de la lucha contra la trata de personas no es una excepción. De hecho, en el último informe TIP se alentó activamente a las empresas tecnológicas a utilizar “herramientas de datos y algoritmos” para detectar patrones e identificar actividades sospechosas. Las empresas, las organizaciones sin fines de lucro y las fuerzas de seguridad ahora pueden detectar más riesgos con mayor eficiencia. Pero los expertos advierten que debemos proceder con cuidado. De lo contrario, existe el riesgo de dañar a poblaciones que ya son vulnerables.
Anjali Mazumder, quien dirige el programa de inteligencia artificial, justicia y derechos humanos en el Instituto Alan Turing, el instituto nacional del Reino Unido para la ciencia de datos y la inteligencia artificial. dijo:
“Como ocurre con muchas tecnologías relacionadas con la IA, existen tensiones a la hora de utilizarla. Lo que se necesita es reconocer que, sí, existen herramientas que podrían ser útiles para detectar daños, pero también pueden causarlos”.
Al analizar grandes cantidades de datos, las tecnologías de inteligencia artificial han descubierto patrones, redes y puntos conflictivos. Y no se puede negar que ha habido resultados positivos. Una herramienta de inteligencia artificial desarrollada por IBM ayudó a descubrir a ciudadanos vietnamitas que eran víctimas de trata para trabajar en centros de estafa en Camboya. La misma herramienta también expuso redes de agencias de empleo falsas en Uganda.
Lo importante es el elemento humano.
A diferencia de los logros que acabamos de mencionar, la mayoría de los usos actuales de la IA en el sector de la trata se centran en la lucha contra la trata con fines de explotación sexual. El problema, según los expertos, es que muchos de los anuncios que analiza la IA incluyen anuncios de auténticas trabajadoras sexuales. Las herramientas que se utilizan actualmente tienen dificultades para discernir de forma fiable entre ambos tipos de publicidad, lo que puede hacer que las fuerzas del orden se conviertan en objetivos injustificados de personas inocentes.
Olivia Snow, trabajadora sexual e investigadora del Centro de Investigación Crítica de Internet de la UCLA fijado:
“Una cosa sería si utilizaran inteligencia artificial para rastrear a los clientes o algo así, pero nunca lo hacen. Se trata solo de los trabajadores. A quienes crean inteligencia artificial en realidad no les importan los derechos humanos. Les importa ganar dinero y obtener datos”.
Un informe de Forbes descubrió que una herramienta de inteligencia artificial recopilaba anuncios de trabajadoras sexuales reales junto con anuncios sexuales en línea de niños explotados. Con esa información, la policía vigilaba a las mujeres a distancia, pero no intervenía cuando estaban en peligro. Además, debido a que se las detectó incorrectamente, muchas trabajadoras sexuales han sido congeladas o bloqueadas de sus cuentas bancarias. Un portavoz del banco dijo que es el elemento humano el que aún necesita estar presente para analizar los datos antes de tomar medidas.
Freedom United apoya a Mazumder y otros expertos que creen que la IA puede ser una bendición para el sector, pero es vital que se establezcan mecanismos para garantizar que los grupos marginados o vulnerables no sean objeto de ataques, mayor explotación o daños de alguna manera.
Freedom United está interesada en escuchar a nuestra comunidad y agradece los comentarios, los consejos y las ideas relevantes e informados que hacen avanzar la conversación en torno a nuestras campañas y defensa. Valoramos inclusividad y respeto dentro de nuestra comunidad. Para ser aprobados, sus comentarios deben ser civiles.
Bien, entonces ¿qué se debe hacer al respecto ahora?
La IA es la última de una serie de soluciones tecnológicas que prometen mucho y ofrecen poco. Primero fueron los “big data”, luego la “cadena de bloques” y luego alguna otra solución rápida para “liberar al mundo de la esclavitud moderna”. Si bien cada una puede tener una aplicación, a nivel macro, todas han demostrado ser pura espuma y nada de cerveza.