AGI - Agenti di intelligenza artificiale di OpenAI hanno tentato di utilizzare altri modelli di IA per superare i controlli anti robot dei siti e accedere ai sistemi della piattaforma software Hugging Face.
È quanto emerge da un rapporto pubblicato venerdì dalla startup californiana Parse insieme ad altri ricercatori, secondo quanto riferisce il New York Times.
L'indagine ricostruisce parte delle attività condotte autonomamente dagli agenti, ma non consente di stabilire quali tentativi siano riusciti.
I ricercatori hanno analizzato circa 900mila indirizzi abbreviati, creati attraverso servizi online tra il 9 e il 13 luglio, ricostruendo circa 60mila programmi e messaggi utilizzati nell'attacco. Gli agenti hanno anche tentato di cercare e scaricare messaggi privati dal sistema di comunicazione interna Slack di Hugging Face. I dati disponibili mostrano i programmi elaborati, ma non i risultati delle loro operazioni.
Per creare nuovi account su Hugging Face, gli agenti hanno utilizzato un modello di riconoscimento delle immagini nel tentativo di risolvere i Captcha, i test progettati per distinguere le persone dai programmi automatici.
Gli investigatori hanno inoltre rilevato tentativi di inviare messaggi a GPT-2 di OpenAI, ai modelli cinesi DeepSeek, Kimi e Qwen e a due modelli di Anthropic, Haiku 3 e Haiku 4.5, attraverso un servizio di chat online. Il rapporto non chiarisce l'esito di ciascuna di queste iniziative. Tra gli elementi individuati figura anche un elenco di chiavi segrete di accesso contrassegnato dalla parola "LOOT", ossia "bottino".
Secondo Mishka Kharlov, ingegnere di Parse, un agente aveva creato un sistema di valutazione delle credenziali esposte di Hugging Face per selezionare le cinque migliori e condividerle con gli altri agenti. "Non si tratta affatto di un episodio isolato", ha dichiarato il fondatore di Parse, Alex Forman. "È un segnale d'allarme dopo l'altro".
I ricercatori hanno trasmesso i risultati a Hugging Face, che ha confermato la corrispondenza tra le attività ricostruite e quelle osservate dall'azienda. Una portavoce di OpenAI ha dichiarato che la società non aveva ancora potuto esaminare il rapporto, ma che le attività descritte erano coerenti con quelle già oggetto delle sue verifiche. "Stiamo dando priorità all'esame degli incidenti più gravi, estendendolo nel frattempo ad attività meno gravi, compresi gli agenti che inviano spam ai siti", ha spiegato. "Considerato il numero dei casi e la necessità di verificarli singolarmente, prevediamo che questo lavoro e le notifiche ai soggetti terzi interessati richiederanno mesi".