AGI – Un "agente" di OpenAI ha scoperto nuove vulnerabilità e ha violato autonomamente i sistemi della startup Hugging Face, in uno dei primi esempi di attacco informatico condotto da un sistema di intelligenza artificiale al di fuori del controllo umano. Lo rivela il Financial Times. Il produttore di ChatGPT ha dichiarato che l'incidente informatico "senza precedenti" ha coinvolto un agente, ovvero un programma di IA in grado di operare autonomamente sulla base di istruzioni umane, che è sfuggito a un ambiente di test, ha ottenuto l'accesso a Internet e ha rubato le credenziali di accesso.
Questa ammissione giunge in un momento in cui cresce la preoccupazione per le implicazioni dei sistemi di intelligenza artificiale avanzata che violano le infrastrutture digitali, in particolare negli scenari in cui gli agenti sovvertono i controlli umani. OpenAI ha dichiarato di prevedere che questo tipo di incidente diventerà "più comune con la proliferazione di modelli sempre più capaci di attacchi informatici".
L'incidente si è verificato proprio a pochi giorni dalla missione dell'amministratore delegato Sam Altman a Washington la prossima settimana per informare il governo statunitense sulle prossime generazioni di modelli di intelligenza artificiale. L'amministrazione è diventata sempre più propensa a vagliare i nuovi modelli prima del loro rilascio, in seguito alle preoccupazioni globali suscitate dalla capacità avanzata del modello Mythos di Anthropic di rilevare e sfruttare le vulnerabilità informatiche. L'ultimo incidente ha coinvolto una combinazione di modelli di OpenAI, tra cui GPT-5.6 Sol, rilasciato all'inizio di questo mese, e un modello più potente che era in fase di test prima del rilascio, ha affermato l'azienda. Hugging Face, una startup di intelligenza artificiale che ospita modelli e set di dati per gli sviluppatori ha dichiarato di aver subito una violazione dei propri sistemi venerdì scorso da parte di un agente di intelligenza artificiale esterno.
"Considerata la sofisticatezza dell'agente, sospettavamo che l'attacco informatico della scorsa settimana potesse provenire da un laboratorio di frontiera", ha dichiarato l'amministratore delegato Clement Delangue su X e ha aggiunto che l'azienda ha trascorso la giornata precedente lavorando a stretto contatto con OpenAI. "Crediamo fermamente che non ci fosse alcuna intenzione malevola da parte loro. È davvero incredibile che tutto ciò sia accaduto in modo autonomo!".
OpenAI aveva intenzionalmente ridotto le proprie misure di sicurezza informatica per valutare entrambi i modelli in un ambiente di test. Tuttavia, gli agenti operavano in una cosiddetta 'sandbox', progettata per controllare i sistemi e impedire loro di accedere a Internet. OpenAI ha dichiarato al Financial Times di aver comunicato con le forze dell'ordine e altre autorità governative in merito all'incidente.