Trump ha torto: Google e il suo algoritmo non sono prevenuti nei suoi confronti. Big G non manomette le ricerche perché ha simpatie democratiche. Però. Il presidente degli Stati Uniti, forse senza rendersene conto, ha toccato un punto cruciale: il potere del motore di ricerca, il suo impatto sulla diffusione delle informazioni e la sua pervasività. Il New York Times ha dedicato a questo tema un articolo firmato da Farhad Manjoo. S'intitola “Ecco la conversazione di cui abbiamo davvero bisogno per parlare di pregiudizi e Google”. Come a dire: Trump ha indicato la luna e si e guardato il dito. E lì hanno rivolto lo sguardo milioni di persone, pro e contro l'attuale presidente. Proviamo invece a sollevarlo.
Ne “I Soliti Sospetti”, Keyser Söze (Kevin Spacey) dice che “la beffa più grande che il diavolo abbia mai fatto è stato convincere il mondo che lui non esiste”. Così, anche Google (e Facebook e tanti altri) hanno fatto passare l'idea che gli algoritmo che danno una gerarchia alle informazioni e ai link siano neutrali. E che computer, intelligenza artificiale e matematica siano “un oracolo” capace di “separare verità e spazzatura”. Così dice Manjoom citando Safiya U. Noble, professoressa della University of Southern California e autrice del libro “Algorithms of Oppression: How Search Engines Reinforce Racism”. Ossia “Algoritmi e oppressione: come i motori di ricerca rafforzano il razzismo”.
Le ricerche tenderebbero a perpetrare alcuni pregiudizi. Come quelli razziali. Il problema è emerso più volte. Basta fare un paio di tentativi, anche in lingua italiana. Digitando “le ragazze nere sono”, le chiavi offerte da Google per completare la ricerca sono “facili” e “troppo belle”. Se si cerca “i neri sono”, il motore suggerisce “belli”, “più forti”, “tutti uguali”, “aggressivi”, “meno evoluti”, “una razza inferiore”. E se si prova con “gli immigrati sono”, le prime opzioni sono “criminali”, “una ricchezza”, “troppi”, “matti”, “un costo”.
Google ha ribadito più volte di essere al corrente del problema. E di essere al lavoro per risolverlo o mitigarlo. Ma il nodo resta: gli algoritmi non sono divinità giuste, sottolinea il Nyt, ma strumenti “creati da persone che hanno preferenze, opinioni e lavorano in una struttura che ha chiari obiettivi finanziari”. Il crescente ruolo dell'intelligenza artificiale non migliora le cose. Perché digerisce dati e ricerche degli utenti. Con il rischio di amplificare i pregiudizi più diffusi. Eppure, nonostante l'enorme peso di Google, non sembra si consideri a sufficienza il suo impatto sulla discussione pubblica.
Trump ha torto, ripete più volte il Nyt. Anche perché il problema principale dei pregiudizi che si autoalimentano non riguarda chi ha già potere (indipendentemente dall'orientamento politico) ma chi non c'è l'ha. Tradotto: Google tende a rafforzare voci già consistenti e a silenziare quelle più flebili. Come “donne, minoranze e altri gruppi che hanno meno peso sociale, economico e politico”. Non è un'azione deliberata. È una sorta di effetto collaterale. L'articolo fa un piccolo esempio. Nel 2014, cercando “English major who taught herself calculus” (il sindaco inglese che insegnò la matematica a se stessa) Google suggeriva di correggere la frase in “English major who taught himself calculus” (il sindaco inglese che insegnò la matematica a se stesso). Leggeva il femminile come un errore e proponeva di correggerlo in maschile. L'algoritmo è sessista? Non volontariamente. Replica (e amplifica) online quello che è presente all'esterno. I sindaci donna sono infatti molto meno degli uomini.
Negli Stati Uniti, otto ricerche online su dieci passano da Google. La quota in Europa è ancora più alta. Mountain View possiede una piattaforma come YouTube, un servizio come Gmail e sviluppa Android, il sistema operativo mobile (di gran lunga) più diffuso al mondo. Pesa sulla diffusione delle notizie e sul successo delle testate online. Ed è il più grande gestore di pubblicità del pianeta. Un potere sterminato. Davanti al quale, dice Manjoo, ci si dovrebbe chiedere: “Come lo gestisce”? La risposta non è immediata. Perché la trasparenza non è il pezzo forte di di Google. I suoi algoritmi sono segreti. Si conoscono solo in parte alcuni criteri. La compagnia si difende, affermando che renderli pubblici avrebbe due controindicazioni: sarebbe un vantaggio competitivo per i concorrenti ed esporrebbe alle manipolazioni.
Senza queste coordinate, però, Google tiene per sé risorse senza fondo. E rende impossibile un intervento esterno per ammorbidire l'impatto dei pregiudizi. È un po' come se il responsabile di un reato fosse anche il poliziotto incaricato di indagare. Trump ha torto, perché i fatti contrastano le sue parole. Ma resta il problema che, se Google volesse penalizzare un candidato, potrebbe farlo con facilità, modificando i risultati di ricerca visualizzati da milioni di utenti. Come se ne esce? Il Nyt cita una proposta del 2010 di Frank Pasquale, professore dell'Università del Maryland: istituire un'agenzia federale che abbia libero accesso ai dati e monitori l'intreccio tra algoritmi e pregiudizi. Non è detto che sia la soluzione. Ma nessuno ha preso in considerazione la proposta di Pasquale.
Il potere di Google, in fondo, è come il pregiudizio: alimenta se stesso. L'Unione europea ha già multato Mountain View (che nega ogni accusa) nel 2017: 2,4 miliardi di dollari per aver privilegiato propri servizi nei risultati di ricerca. Anche la Federal Trade Commission americana aveva indagato nel 2012, senza però procedere. Il senatore repubblicano dello Utah Orrin Hatch ha chiesto alla Ftc di riaprire quell'inchiesta dopo le accuse della Casa Bianca. Trump ha torto, ma le sue parole potrebbero puntare un faro su chi non lo gradisce. Negli scorsi mesi è toccato a Facebook. Adesso potrebbe essere il turno di Google.