Questo articolo è stato pubblicato da questo sito
A fine novembre un software di riconoscimento facciale ha portato all’arresto in Georgia di Randall Reid, un 28enne nero che però non aveva niente a che vedere con il reato che gli era stato contestato. La polizia locale si è affidata esclusivamente ai risultati dell’algoritmo, senza nessun’altra indagine o prova, incarcerando per quasi una settimana una persona innocente. Reid era stato accusato di aver rubato borse Chanel e Louis Vuitton per un valore di 10mila dollari a New Orleans, in Louisiana, a circa sette ore di auto dal luogo del fermo e in uno stato in cui l’uomo non aveva mai messo piede, come riporta Associated Press.
Secondo il New Orleans Advocate, il software biometrico della polizia ha indicato Reid come sospettato nonostante una differenza di peso di quasi 20 chili tra l’uomo e il criminale ripreso dai video di sorveglianza usati per la ricerca. È bastata la somiglianza tra i due volti per procedere all’arresto, dimostrando ancora una volta come questa tecnologia abbia ancora forti bias su base etnica, che possono essere amplificati dagli atteggiamenti superficiali e razzisti delle forze dell’ordine, andando così a esacerbare ingiustizie sociali già esistenti.
Nonostante le sue potenzialità, il riconoscimento facciale oggi è ancora una tecnologia imperfetta e parziale. Come riporta su Instagram l’account Aj+, di proprietà di Al Jazeera, i software di riconoscimento facciale commettono la gran parte degli errori proprio nei confronti dei gruppi sociali più vulnerabili o emarginati, in particolare rispetto all’identificazione delle donne e delle persone di colore. Secondo un’analisi del 2018, negli Stati Uniti la tecnologia induce a un’identificazione errata di donne non bianche in almeno un terzo dei casi, mentre i maschi neri hanno una probabilità di essere arrestati cinque volte superiore a quella dei bianchi.
Al momento non esistono ancora regole precise che disciplinino efficacemente l’uso dei software di riconoscimento facciale, con numerosi casi di abusi ed errori da parte della polizia. Secondo l’avvocata esperta di privacy Clare Garvie, intervistata da Gizmodo, l’uso del riconoscimento facciale come unica base per l’arresto dei sospetti rappresenta una tendenza preoccupante e in crescita.
“Il riconoscimento facciale promette un’identificazione accurata e rapida in circostanze in cui le forze dell’ordine potrebbero non avere altri modi per identificare i sospetti, ma questa ipotesi non è mai stata testata o confermata – ha spiegato Garvie –. Quando le forze dell’ordine usano questa tecnologia come unica base per gli arresti, si affidano a metodi non sicuri“.
