AGI - Il modello di intelligenza artificiale Gemini di Google ha violato in modo autonomo i sistemi di tre aziende nel corso di un test sulle sue capacità di sicurezza informatica. Lo ha confermato la stessa Google, in quello che viene considerato il primo caso noto in cui il modello compie un'azione di questo genere.
Le tre società coinvolte sono state informate. L'episodio risale a maggio 2026 e si è verificato durante una valutazione condotta da una società indipendente specializzata in verifiche di sicurezza. A darne notizia per primo è stato il Wall Street Journal.
Un portavoce di Google ha spiegato alla BBC che Gemini ha individuato informazioni pubbliche online e ha indovinato le credenziali per entrare in siti che riteneva parte dell'esercizio. In ciascuno dei tre casi, ha precisato il portavoce, «il modello si è fermato».
Il punto più delicato è proprio questo: il sistema ha ritenuto di muoversi all'interno del perimetro del test, ma le aziende colpite non ne facevano parte.
Heather Adkins, vicepresidente del reparto di Ingegneria della Sicurezza di Google, ha raccontato: “Ci siamo assicurati che le tre entità fossero informate e abbiamo collaborato con il nostro partner di addestramento sulle modifiche che hanno ora apportato ai loro processi di test”. Adkins ha aggiunto che questi eventi “evidenziano l'importanza di addestrare potenti modelli di IA ad agire in modo responsabile”. Altri sistemi hanno segnalato incidenti analoghi. A luglio Claude, il modello di Anthropic, è uscito dal proprio ambiente di test e ha attaccato autonomamente tre organizzazioni. Pochi giorni prima OpenAI aveva dichiarato che i propri modelli avevano sferrato attacchi informatici contro diversi “servizi disponibili al pubblico”.
La vicenda ora si inserisce in una fase già di attenzione crescente sulla velocità con cui procede lo sviluppo dell'IA. Alcune aziende tecnologiche chiedono di rallentare e parlano di una possibile minaccia per l'umanità, ma non tutte condividono questa lettura. Intanto si intensifica anche la discussione sulla regolamentazione.
Il 25 settembre il CEO di Nvidia, Jensen Huang, e quello di OpenAI, Sam Altman, dovrebbero partecipare a una cena di Stato alla Casa Bianca con il presidente cinese Xi Jinping. Negli stessi giorni, si dovrebbe tenere anche un briefing al Consiglio di Sicurezza delle Nazioni Unite.