Il Pentagono si farà aiutare dall'intelligenza artificiale di Google

Google metterà a disposizione del Pentagono i suoi sistemi di intelligenza artificiale per aiutare la Difesa a identificare gli oggetti filmati dai droni. Una decisione che starebbe già causando un'autentica levata di scudi nel personale di Mountain View, che ha appreso dell'adesione dell'azienda al cosiddetto 'Progetto Maven' da un memo interno che il sito specializzato Gizmodo ha ottenuto grazie a fonti riservate. Secondo tali fonti, alcuni dipendenti hanno reagito con rabbia alla prospettiva di una collaborazione con le forze armate, mentre altri hanno sottolineato come il progetto faccia renda ormai non più rimandabile una discussione su quali debbano essere i limiti etici dello sviluppo e dell'utilizzo del 'machine learning'.

Del resto era stato l'allora presidente di Google, Eric Schmidt, durante una conferenza dello scorso autunno, a farsi portavoce delle perplessità del settore su future collaborazioni con il dipartimento della Difesa. "C'è una preoccupazione generale nella comunità industriale riguardo alla possibilità che il complesso militare-industriale utilizzi i loro prodotti per uccidere persone in maniera scorretta", disse Schmidt. E, sebbene l'adesione di Google al progetto non dovrebbe riguardare l'attività di eliminazione dei bersagli, la preoccupazione rimane.

Dentro 'Project Maven'

Il Progetto Maven è stato avviato nell'aprile del 2017 con l'obiettivo di "accelerare l'integrazione di big data e machine learning nel dipartimento della Difesa", che lo scorso anno, secondo il Wall Street Journal, ha investito 7,4 miliardi di dollari nell'intelligenza artificiale. Il primo compito assegnato al progetto è stato aiutare il Pentagono a elaborare l'enorme quantità di riprese video che viene effettuata ogni giorno dai suoi droni, una mole di filmati tale da non poter essere analizzata da operatori umani. Da qui la necessità di ricorrere a sistemi di machine learning perché identifichino gli oggetti catturati dalle fotocamere aeree. Oltre a quelli di natura etica, però, esistono anche dubbi di natura tecnica.

"L'intelligenza artificiale è già utilizzata dalle forze dell'ordine e da applicazioni militari ma i ricercatori avvertono che questi sistemi possono essere notevolmente parziali in maniere che non sono facili da rilevare", sottolinea Gizmodo, "per esempio, ProPublica ha segnalato nel 2016 che un algoritmo utilizzato per prevedere le probabilità di recidiva tra i detenuti ha regolarmente mostrato pregiudizi razziali".

Ma, in concreto, quali strumenti fornirà Google?

Un portavoce di Mountain View ha spiegato a Gizmodo che sta fornendo al dipartimento di Difesa le interfacce di programmazione (API) 'TensorFlow', utilizzate per il machine learning, per aiutare gli analisti militari a identificare gli oggetti nelle immagini fornite dai droni. Conscio delle critiche alle quali tale collaborazione si presta, il portavoce ha assicurato che la compagnia sta lavorando a una sorta di 'codice etico' sull'utilizzo di tali sistemi.

"Abbiamo lavorato per lungo tempo con le agenzie governative per fornire loro soluzioni tecnologiche", ha aggiunto il portavoce, "questo progetto specifico è un progetto pilota con il Dipartimento della Difesa finalizzato a fornire API open source TensorFlow che possano dare un contributo per l'identificazione degli oggetti o per la gestione dei dati non classificati. Questa tecnologia segnala le immagini da sottoporre agli umani, e solo per scopi non di offesa. L'utilizzo militare del machine learning chiaramente solleva preoccupazioni corrette. Stiamo discutendo in maniera attiva questa importante materia, sia al nostro interno che con gli altri, e continuiamo a sviluppare criteri d'uso e salvaguardie intorno allo sviluppo e' all'utilizzo delle nostre tecnologie di machine learning". La "mission" per la quale è nato il Progetto Maven (eliminare i miliziani dell'Isis) è però decisamente offensiva.

Per portare avanti il programma, il Pentagono ha messo su un incubatore di innovazione interno e un gruppo di consulenti, provenienti dal mondo del digitale, denominato Defense Innovation Board. E indovinate chi lo guida? Eric Schmidt, che solo il mese scorso ha lasciato la presidenza di Alphabet, la holding che controlla Google.