AGI - In questi giorni di intenso dibattito sull'intelligenza artificiale, coincisi con l'importante conferenza del settore 'All-In' a Los Angeles, è tornato sulla bocca di più di un oratore il caso di Hugging Face, la piattaforma vittima due mesi fa di un attacco informatico. A compromettere parte dell'infrastruttura interna di ricerca dell'azienda, di recente acquistata da Nvidia per 12,9 miliardi di dollari, non furono però hacker al soldo di potenze straniere bensì modelli di OpenAI che, durante alcuni test interni sulla sicurezza informatica, aggirarono i controlli predisposti per isolarli da Internet.
Nei giorni scorsi la discussione si è incentrata sul tema dei limiti da porre allo sviluppo dell'IA per evitare evoluzioni incontrollate che mettano a rischio la sopravvivenza stessa della razza umana. A chiedere un rallentamento sono stati i Ceo di tre giganti del settore: Dario Amodei (Anthropic), Sam Altman (OpenAI) ed Elon Musk (X). Il presidente degli Stati Uniti, Donald Trump, ritiene però questa linea cauta un regalo a Pechino, all'avanguardia nel settore, ed è intervenuto in diretta all'All-In, mentre parlava l'ad di Nvidia Jensen Huang, per assicurare che i robot non avrebbero preso il controllo del pianeta. Huang si è mostrato in buona parte concorde e ha osservato che in Cina queste letture catastrofiste non esistano, anzi.
Musk, il cui intervento era in agenda poco dopo, si è mostrato però di parere radicalmente opposto e ha invitato l'uditorio a informarsi sui dettagli del cosiddetto "incidente di Hugging Face" per comprendere quanto l'Ia possa rivelarsi "pericolosissima". "Di base, sembra che ogni modello abbastanza intelligente voglia sfuggire ai suoi vincoli", è il punto su cui ha posto l'accento Musk. La ricetta proposta dall'imprenditore sudafricano, allergico agli eccessivi controlli statali, è un meccanismo di vigilanza reciproca che veda le aziende collaudare le une i modelli degli altri, purché si faccia "il prima possibile, se non subito".
Due giorni prima era stato Amodei, in un'intervista a Cbs, a paventare che sciami di agenti Ia malevoli possano prendere il controllo di Internet "in appena sei mesi." Lo scorso luglio, poco dopo l'esplosione della vicenda, il manager aveva avvertito che anche Claude, modello sviluppato da Anthropic, aveva "ottenuto un accesso non autorizzato" a tre organizzazioni durante test che avrebbero dovuto impedire all'Ia di accedere a sistemi "reali".
Non sono quindi stati solo i nuovi modelli OpenAI coinvolti nel caso Hugging Face, tra cui il nuovo GPT-5.6 Sol, a rivelarsi capaci di bucare la 'sandbox', il sistema progettato per impedire l'accesso a internet agli agenti, ovvero programmi di Ia in grado di operare in autonomia sulla base di istruzioni umane.
Anzi, secondo l'azienda produttrice di ChatGPT, l'incidente è stato sì "senza precedenti" ma è destinato a diventare "più comune con la proliferazione di modelli sempre più capaci di attacchi informatici".
I giorni successivi al caso Hugging Face avrebbero visto Sam Altman a Washington impegnato in una fitta rete di incontri con membri del Congresso per chiedere una supervisione più stretta dei nuovi modelli. Un imprenditore che implora la politica di imporre controlli più stretti al suo settore: anche questo, a modo suo, è un avvenimento "senza precedenti".