Criminali o parlamentari? Per il sistema di riconoscimento facciale di Amazon la differenza non è chiara. Il servizio ha scambiato 28 membri del Congresso Usa per galeotti. Sarebbe la prova dei rischi legati a questa tecnologia, testata negli ultimi mesi anche dalle forze di polizia. Lo afferma l'American Civil Liberties Union (Aclu), che ha condotto l'esperimento per convincere proprio il Congresso a varare una moratoria sull'utilizzo del riconoscimento facciale nella sicurezza pubblica.
L'Aclu ha creato un archivio raccogliendo 25.000 foto segnaletiche. Ha poi mostrato alla tecnologia di Amazon, chiamata Rekognition, le immagini dei 535 parlamentari americani. In 28 casi (cioè in più del 5%), il riconoscimento facciale ha trovato una corrispondenza (in realtà inesistente) tra i volti del Congresso e quelli dei criminali. Gli errori hanno coinvolto uomini e donne, politici democratici e repubblicani, bianchi, ispanici e afroamericani. Ma il tasso di false corrispondenze è stato molto più alto tra i parlamentari di colore.
Costituiscono un quinto del Congresso, ma sono stati coinvolti nel 39% degli errori di Rekognition. Numeri che, secondo la Aclu, dimostrerebbero quanto le libertà civili (in particolar modo di alcuni gruppi etnici) siano esposte alle tecnologie per il riconoscimento facciale. Il simbolo di questi rischi è un nome che di battaglie per i diritti se ne intende: tra i 28 parlamentari identificati come criminali c'è John Lewis, oggi membro della Camera dei Rappresentanti per lo Stato della Georgia, e nel 1963 tra i leader della marcia su Washington, accanto a Martin Luther King.
“Se le forze dell'ordine usassero Amazon Rekognition – afferma la Aclu – non è difficile immaginare” un futuro in cui le persone verranno “interrogate” o “perquisite” solo perché un software ha trovato “una corrispondenza” tra il loro viso e quello presente in un archivio di criminali. “Un'identificazione che, accurata o meno, potrebbe costare loro la libertà o persino la vita”. Un problema che, secondo l'associazione, rischia di aggravarne un altro: “Le persone di colore sono già danneggiate in modo sproporzionato dalle pratiche della polizia”. E Rekognition potrebbe “peggiorare le cose”. L'organizzazione chiede quindi che “il Congresso esamini seriamente queste minacce, morda il freno e attui una moratoria sull'uso del riconoscimento facciale da parte delle forze dell'ordine. Questa tecnologia non dovrebbe essere utilizzata fino a quando non ci saranno tutte le misure necessarie per evitare che danneggino le comunità vulnerabili”.
L'esperimento dell'American Civil Liberties Union non è uno studio ampio. Ma, come scrive l'organizzazione, non è neppure “un esercizio ipotetico”. Rekognition è già stato testato da alcune città americane, tra le quali Orlando. Proprio in seguito agli esperimenti in Florida, a maggio l'Aclu aveva inviato una lettera al ceo di Amazon Jeff Bezos, esprimendo “grande preoccupazione”, parlando di “minaccia per la libertà” e chiedendo al fondatore del gruppo di bloccare la fornitura di Rekognition. Anche allora, l'organizzazione aveva messo l'accento sulla discriminazione: “Le persone – si legge nella lettera - dovrebbero essere libere di camminare per strada senza essere osservate dal governo. Il riconoscimento facciale minaccia questa libertà. Il governo federale potrebbe utilizzare questa tecnologia per seguire continuamente gli immigrati mentre cercano di ricostruire la propria vita. La polizia locale potrebbe usarla per identificare i manifestanti politici”. Da Bezos non è arrivata alcuna risposta. La polizia di Orlando, invece, ha prima spiegato i particolari della sperimentazione, difendendo la tecnologia e chiarendo quanto sarebbe utile su vasta scala. Un mese dopo, a fine giugno, ha però sospeso i test.