Anche la polizia è preoccupata dall'uso del riconoscimento facciale di Amazon

Il sistema di riconoscimento facciale fornito da Amazon fa discutere negli Stati Uniti, dove le forze dell’ordine lo utilizzano per identificare non solo sospetti, ma anche normali cittadini. Si chiama Rekognition e per l’American Civil Liberties Union (Aclu, organizzazione statunitense che tutela i diritti civili), è in grado di “identificare, tracciare e analizzare in tempo reale fino a cento persone in una singola immagine”. Ma le possibilità di impiego di questa tecnologia potrebbero creare preoccupazione anche tra le stesse forze dell’ordine, come dimostrano alcune mail ottenute dall’Aclu con una richiesta di pubblico accesso.

Pochi giorni fa è stato usato da Sky per dare un nome agli ospiti del matrimonio tra Harry Mountbatten-Windsor e Meghan Markle, ma dall’altro lato dell’Atlantico le autorità lo impiegano per il riconoscimento dei cittadini nelle operazioni di polizia. Rekognition è il prodotto di Amazon che consente l’associazione automatica di un’identità ai volti sottoposti al suo algoritmo e per la stessa azienda può essere utilizzato sulle telecamere indossate dai tutori dell’ordine.

Il timore è che le bodycam indossate dagli agenti, nate per garantire una maggiore tutela dei cittadini rispetto agli abusi delle forze dell’ordine, si possano trasformare in un ulteriore strumento di sorveglianza governativa.

“Utilizzare il riconoscimento facciale sulle bodycam cambierebbe completamente il senso dei dispositivi”, ha detto alla Bbc Matt Cagle, avvocato della sezione californiana dell’Aclu. “Molti dipartimenti hanno adottato questi dispositivi con lo scopo di responsabilizzare gli agenti - continua Cagle -, ma questo trasformerebbe quei dispositivi in macchine di sorveglianza puntate sul pubblico”. Gli stessi dubbi erano stati sollevati all’indomani della rivolta di Ferguson, che determinò l’introduzione delle bodycam, dall’attivista per i diritti degli afroamericani Malkia Cyril. La leader del movimento Black lives matter aveva infatti espresso più volte la sua contrarietà a simili tecnologie, facilmente trasformabili in strumenti di repressione, come aveva riportato l’Atlantic.

I dettagli di come funzioni il sistema di Amazon tuttavia non sono segreti e sono disponibili sul sito dell’azienda, dove è specificato che grazie a Rekognition è possibile individuare “persone d’interesse”. Ma questa tecnologia sarebbe stata usata anche per identificare “persone in stato di incoscienza o morte”, così come “possibili testimoni o complici nelle immagini”, si legge nelle email. Aclu precisa che in Oregon è legale rifiutare il riconoscimento tramite carta d’identità, ma con Rekognition la polizia non avrebbe neanche bisogno di chiedere l’esibizione di un documento.

Secondo quanto riportato dall’associazione, sia la contea di Washington sia la città di Orlando utilizzano Rekognition dal 2017. Da allora la contea di Washington ha composto un database di almeno 300mila foto segnaletiche, con il quale vengono confrontate fotografie provenienti da telecamere di sorveglianza e anche da una app realizzata apposta per le autorità.

Leggi anche: Il riconoscimento facciale è in arrivo negli stadi per i grandi concerti

“Anche se il software è utilizzato per identificare persone di interesse da immagini fornite all’ufficio dello sceriffo, questo potrebbe essere percepito come un costante controllo dei volti [provenienti] da ovunque, una cosa alla ‘Grande Fratello’”, ammette in una mail un agente dell’ufficio dello sceriffo. In base a queste considerazioni lo sceriffo sarebbe quindi “esitante a pubblicizzare l’utilizzo di ‘big data’”.

“Nelle e-mail scambiate tra alcuni dipendenti di Amazon e la Contea di Washington, l’azienda offre l'esperienza del team di Rekognition per risolvere problemi e fornire consigli sul ‘modo migliore’ di utilizzare il servizio”, ha spiegato la Aclu. “In quello che il capo della polizia di Orlando elogia come una ‘prima partnership del settore pubblico-privato’, Amazon ha promesso servizi di consulenza gratuiti per costruire una ’dimostrazione pratica’ per la città”. La sorveglianza tramite identificazione facciale è già operativa su Orlando, dove riceve immagini da telecamere sparse in “tutta la città”, secondo quanto confermato da Amazon.

Leggi anche: In Cina il riconoscimento facciale entra in classe per sorvegliare gli studenti

Alcuni dubbi sorgono anche sulla effettiva capacità di Rekognition di identificare correttamente i volti. Gizmodo ha sottolineato come, da altri documenti emersi, il software abbia sbagliato identificando con un margine di certezza del 93,53 per cento un uomo di carnagione chiara con l’afroamericano O.J. Simpson. Non è chiaro se l’uomo nella fotografia sia stato arrestato, e non c’è certezza che una volta raccolti i dati dei sospetti, le loro fotografie vengano poi rimosse dai database dopo che è riconosciuta la loro innocenza.

In un commento a Gizmodo, Amazon ha dichiarato che per utilizzare il servizio “il cliente deve essere rispettoso della legge e responsabile”. L’azienda continua spiegando che “la qualità delle nostre vite sarebbe molto inferiore se avessimo messo fuori legge le nuove tecnologie solo perché alcune persone potrebbero abusarne. Immagina se i clienti non potessero comprare un computer perché è possibile usarlo per scopi illegali? Come tutti i nostri servizi Aws [i servizi web di Amazon, ndr], richiediamo ai nostri clienti di rispettare la legge ed essere responsabili quando si utilizza Amazon Rekognition”.