L'intelligenza artificiale di Google non aiuterà più il Pentagono

Stop di Google al progetto Maven con il Pentagono per lo sviluppo di un'intelligenza artificiale che analizzi il materiale video raccolto da droni militari. Secondo quanto riferito dalla Bbc, è stata la stessa Diane Greene, consigliere d'amministrazione di Mountain View, a comunicare venerdì al personale che non ci sarà un seguito al contratto con la Difesa Usa dopo la sua scadenza, a marzo 2019. Ma il sito di notizie tecnologiche Gizmodo, che per primo aveva dato notizia del progetto, ha sottolineato che Google non lo ha di fatto cancellato e non sembra aver escluso la possibilità di lavorare ancora con le forze armate Usa.

Dipendenti in rivolta contro la "guerriglia algoritmica"

La frenata sul progetto è arrivata dopo una rivolta interna al colosso di Mountain View, con 4.000 degli 88.000 dipendenti di Google nel mondo che ad aprile avevano firmato una lettera aperta sostenendo che questa collaborazione metteva a rischio la fiducia degli utenti e ignorava la "responsabilità morale ed etica" del gruppo. Il timore dei dipendenti, alcuni dei quali si sono addirittura dimessi, era che il progetto fosse il primo passo verso l'uso dell'intelligenza artificiale per scopi letali.

Maven ha l'obiettivo di migliorare e velocizzare l'analisi della grande quantità di ore di video girate dai militari. In particolare si concentra sulla capacità di estrapolare oggetti d'interesse dal video attraverso la 'computer vision', un'area di ricerca che produce algoritmi per l'acquisizione e la comprensione di immagini. In tal modo, "persone e computer lavoreranno in modo simbiotico per incrementare la capacità dei sistemi d'arma di distinguere oggetti", commentava mesi fa il colonnello Drew Cukor, a capo della squadra di "guerriglia algoritmica" (Algorithmic Warfare Cross-Function Team).

Ma, secondo Google, il progetto non aveva applicazioni letali

Il contratto ha un valore inferiore a 10 milioni di dollari per Google, ma avrebbe potuto portare a una più ampia cooperazione con il Pentagono. Il Progetto Maven prevede l'utilizzo del 'machine learning' per distinguere persone e oggetti nei video girati dai droni. Un portavoce di Google nei giorni scorsi ha detto alla Bbc che la collaborazione a Maven "è specificatamente mirata per scopi non offensivi e utilizza il software di riconoscimento di oggetti 'open source' disponibile per qualsiasi cliente Google Cloud". "I modelli", ha assicurato, "si basano solo su dati non secretati: la tecnologia viene utilizzata per contrassegnare le immagini per il riconoscimento umano e ha lo scopo di salvare vite umane e di risparmiare alle persone un lavoro altamente tedioso. Qualsiasi utilizzo militare del machine learning solleva naturalmente delle preoccupazioni valide. Siamo attivamente coinvolti in tutta l'azienda in una discussione completa su questo importante argomento e anche con esperti esterni, mentre continuiamo a sviluppare le nostre politiche in merito allo sviluppo e all'uso delle nostre tecnologie di apprendimento automatico".

Gizmodo sostiene che i vertici di Google erano profondamente dubbiosi sugli effetti della partnership con il Pentagono. Le mail interne suggerivano che i dirigenti vedevano il contratto come una grande opportunità, pur essendo preoccupati di come sarebbe percepito il coinvolgimento della compagnia.