Utilizzare l’intelligenza artificiale per identificare la schiavitù moderna: un’arma a doppio taglio

I miglioramenti nella tecnologia AI hanno dato alle forze dell'ordine un set completamente nuovo di strumenti da usare nel tentativo di identificare e fermare varie forme di schiavitù moderna. Tuttavia, secondo un recente articolo in Politica estera, l'intelligenza artificiale è uno strumento che funziona in entrambi i sensi. L'intelligenza artificiale ha contribuito a scoprire traffici che in precedenza sarebbero passati inosservati. Ma ha anche trascinato nel miscuglio persone innocenti, con un impatto negativo sulle loro vite.  

Normale o non normale? Te lo dirà l'intelligenza artificiale 

ThetaRay è una società di rilevamento di reati finanziari basata sull'intelligenza artificiale che usa l'intelligenza artificiale per individuare schemi. Quando qualcosa esce da quegli schemi, potrebbe indicare che è stato commesso un crimine. Di recente, una banca ha utilizzato ThetaRay per analizzare i pagamenti regolari effettuati dai clienti. L'intelligenza artificiale ha segnalato un'attività insolita sul conto di un particolare cliente della banca. Quel segnale ha infine scoperto una rete di traffico di esseri umani. 

Peter Reynolds, CEO di ThetaRay disse: 

"Comprendendo cosa è normale, l'intelligenza artificiale ti dirà molto rapidamente cosa non lo è, e ciò che non sembra normale è potenzialmente un crimine". 

Tuttavia, le banche monitorano e analizzano milioni di transazioni. E mentre alcune anomalie possono indicare un crimine, non tutte le deviazioni sono criminali. I siti Web che possono essere utilizzati per vendere auto, computer e altro possono anche vendere veri e propri servizi per adulti non collegati alla schiavitù moderna o allo sfruttamento. Ecco perché, pur riconoscendo il potenziale, alcuni stanno lanciando l'allarme. E la raccolta di dati sulle popolazioni emarginate e l'automazione delle decisioni possono portare a danni involontari, affermano le organizzazioni per i diritti umani e i sopravvissuti. 

Una forza per il bene e per il male 

Negli ultimi anni, la tecnologia AI è stata iniettata in quasi ogni settore in una forma o nell'altra. Il settore anti-tratta non fa eccezione. Infatti, le aziende tecnologiche sono state attivamente incoraggiate nell'ultimo rapporto TIP a utilizzare "strumenti di dati e algoritmi" per rilevare modelli e identificare attività sospette. Le aziende, le organizzazioni non-profit e le forze dell'ordine sono ora in grado di segnalare più rischi con maggiore efficienza. Ma gli esperti mettono in guardia: dobbiamo procedere con cautela. Altrimenti, c'è il rischio di danneggiare popolazioni già vulnerabili.  

 Anjali Mazumder, che dirige il programma AI, giustizia e diritti umani presso l'Alan Turing Institute, l'istituto nazionale britannico per la scienza dei dati e l'intelligenza artificiale disse: 

"Come per molte tecnologie legate all'intelligenza artificiale, (ci sono) tensioni nel suo utilizzo. Ciò che serve è riconoscere che, sì, esistono questi strumenti che potrebbero essere utili per rilevare danni, ma possono anche causarli". 

Esaminando in modo approfondito grandi quantità di dati, le tecnologie AI hanno individuato modelli, reti e hot spot. E non si può negare che ci siano stati risultati positivi. Uno strumento AI sviluppato da IBM ha aiutato a scoprire cittadini vietnamiti trafficati per lavorare nei centri di truffa in Cambogia. Lo stesso strumento ha anche esposto reti di false agenzie di lavoro in Uganda.   

Ciò che conta è l'elemento umano 

A differenza delle vittorie appena citate, la maggior parte degli attuali utilizzi dell'IA nel settore del traffico è focalizzata sulla lotta al traffico sessuale. Il problema, affermano gli esperti, è che molti degli annunci analizzati dall'IA includono annunci di vere e proprie prostitute. Gli strumenti attualmente in uso faticano a distinguere in modo affidabile tra i due. Ciò può portare a persone innocenti che vengono erroneamente prese di mira dalle forze dell'ordine.  

Olivia Snow, lavoratrice del sesso e ricercatrice presso l'UCLA Center for Critical Internet Inquiry dichiarato: 

"Sarebbe una cosa se usassero l'intelligenza artificiale per tracciare i clienti o qualcosa del genere. Ma non lo fanno mai. Sono solo i lavoratori. Le persone che creano l'intelligenza artificiale non si preoccupano realmente delle questioni relative ai diritti umani. A loro interessa fare soldi e a loro interessa ottenere dati". 

Un reportage di Forbes ha scoperto che uno strumento di intelligenza artificiale stava raccogliendo annunci di vere prostitute insieme ad annunci di sesso online di bambini sfruttati. Utilizzando le informazioni, la polizia ha quindi monitorato le donne da lontano ma non è intervenuta quando erano in pericolo. Inoltre, a causa di segnalazioni ingiuste, molte prostitute sono state bloccate o escluse dai loro conti bancari. Un portavoce della banca ha affermato che è l'elemento umano a dover essere ancora presente per analizzare i dati prima di intraprendere azioni.

Freedom United è al fianco di Mazumder e di altri esperti che ritengono che l'intelligenza artificiale possa rappresentare una manna per il settore, ma è fondamentale che vengano messi in atto meccanismi per garantire che i gruppi emarginati o vulnerabili non vengano presi di mira, ulteriormente sfruttati o danneggiati in qualche modo.