AGI - I modelli di Anthropic hanno ottenuto un accesso non autorizzato ai sistemi di tre organizzazioni. È accaduto durante test che avrebbero dovuto impedire loro di raggiungere sistemi reali. Lo ha reso noto la stessa azienda, con un comunicato. L'annuncio arriva pochi giorni dopo quello della rivale OpenAI, che ha rivelato come due suoi modelli fossero usciti di propria iniziativa dall'ambiente isolato in cui venivano testati, per attaccare il sito di Hugging Face.
Anthropic ha analizzato oltre 141 mila test e ha constatato che tre diverse versioni del modello Claude avevano avuto accesso ai sistemi di tre organizzazioni, i cui nomi non sono stati resi noti. A differenza dell’incidente che ha coinvolto OpenAI, i modelli di Anthropic hanno avuto accesso a Internet “a causa di un malinteso tra noi e il nostro partner di valutazione”, Irregular, ha spiegato il gruppo nel comunicato.
Claude ha comunque utilizzato “tecniche elementari, come lo sfruttamento di password deboli e di endpoint privi di autenticazione”, ha aggiunto l’azienda. Il modello meno recente “ha proseguito l’attacco anche dopo aver ottenuto la prova di essere in esecuzione sull’Internet pubblico”, mentre il modello più recente si è fermato, secondo Anthropic.
“In nessuna di queste situazioni Claude è fuggito o ha deliberatamente tentato di fuggire dal proprio ambiente di test”, ha precisato il gruppo. Tra i modelli coinvolti figurava anche Mythos 5, uno dei più potenti di Anthropic, messo a disposizione soltanto di un numero limitato di partner. Anthropic sta lavorando con Irregular per esaminare l’accaduto e ha contattato, o tentato di contattare, le tre organizzazioni coinvolte.
OpenAI, creatrice di ChatGPT e concorrente di Anthropic, aveva annunciato la scorsa settimana che alcuni suoi modelli avanzati si erano comportati in modo incontrollato durante test di sicurezza, attaccando di propria iniziativa Hugging Face, una piattaforma online per modelli e codice. Pochi giorni dopo, il gruppo aveva riferito di aver individuato ulteriori incidenti.
L’amministratore delegato di OpenAI, Sam Altman, ha rivelato in un podcast pubblicato questa settimana che, dopo aver appreso dell’attacco, l’azienda aveva sospeso i test “per capire come riuscire a confinare il nostro ambiente” dedicato, che avrebbe dovuto essere isolato da Internet.
L’incidente ha portato anche alla diffusione di una petizione firmata da oltre mille dipendenti di aziende attive nello sviluppo dell’intelligenza artificiale, che chiedono al governo statunitense di contribuire a rallentare la diffusione dei modelli più avanzati. Intitolata “Pacing the Frontier”, la petizione chiede “che il governo degli Stati Uniti sostenga un’iniziativa internazionale volta a sviluppare gli strumenti tecnici e di governance necessari per regolare in modo ponderato i limiti dello sviluppo automatizzato dell’intelligenza artificiale”.
Tra i firmatari figura anche Dario Amodei, amministratore delegato di Anthropic. Sam Altman non ha firmato la petizione, ma ha riconosciuto che “potremmo dover rallentare il ritmo di sviluppo dell’intelligenza artificiale per concedere alla società il tempo sufficiente ad affrontare queste nuove capacità”.
L’amministrazione Trump ha invocato quest’anno ragioni di sicurezza nazionale per impedire inizialmente a OpenAI e Anthropic di lanciare i loro modelli più recenti. Ha poi dichiarato di ritenersi soddisfatta delle garanzie fornite sulla loro sicurezza, consentendone l’immissione sul mercato. A giugno Trump ha firmato un decreto che istituisce un quadro volontario in base al quale gli sviluppatori di intelligenza artificiale condivideranno con il governo i propri modelli avanzati prima di renderli disponibili al pubblico.
In base al meccanismo, aziende come OpenAI, Anthropic e Google concederebbero al governo l’accesso ai loro modelli più potenti fino a 30 giorni prima della data prevista per il lancio.