OpenAI ha pubblicato 'per sbaglio' 53 immagini di alcuni utenti

AGI - OpenAI ha riconosciuto che i suoi strumenti di intelligenza artificiale hanno pubblicato per errore su siti di hosting 53 immagini caricate dagli utenti su ChatGPT.

L'azienda ha spiegato che gli indirizzi delle immagini non erano stati resi pubblici e che i contenuti sono in fase di rimozione. Ha inoltre confermato, dopo le rivelazioni del New York Times, che i suoi sistemi hanno consultato siti di agenzie federali statunitensi, sostenendo di aver recuperato soltanto informazioni pubbliche.

La dinamica

Le immagini provenivano da account che avevano autorizzato l'utilizzo dei propri dati per migliorare i modelli. Secondo OpenAI, prima dell'impiego i dati erano stati sottoposti a un filtro per la tutela della riservatezza e non possono più essere ricondotti agli utenti originari. L'azienda non ha precisato se le immagini mostrassero persone identificabili o informazioni sensibili e, interpellata dall'Afp, non ha fornito ulteriori dettagli. La pubblicazione è stata provocata da agenti di intelligenza artificiale, software capaci di eseguire autonomamente una sequenza di compiti. OpenAI ha spiegato che alcuni agenti impiegati nella ricerca hanno trasmesso a servizi esterni dati di addestramento, per la maggior parte non provenienti dagli utenti. Gli episodi risalgono a prima del rafforzamento della sicurezza dell'ambiente di ricerca, avvenuto ad agosto.

Il 'mea culpa' di OpenAI

L'azienda sta esaminando le attività passate dei propri agenti, una verifica che "richiederà mesi". "Non siamo stati rapidi quanto avremmo voluto", ha riconosciuto su X l'amministratore delegato Sam Altman, richiamando l'enorme quantità di dati da analizzare. Secondo un portavoce, la maggior parte delle attività esaminate finora riguardava normali compiti di ricerca, come la consultazione di contenuti pubblici online. OpenAI ha confermato che i suoi modelli hanno consultato informazioni pubbliche sui siti della Sec, l'autorità statunitense di vigilanza sui mercati finanziari, ripubblicandone una parte su un'altra pagina web. L'azienda sostiene di non aver riscontrato accessi a informazioni non pubbliche. I modelli hanno inoltre utilizzato chiavi di accesso trovate sulla piattaforma di condivisione di codice GitHub per consultare dati pubblici dell'Ufficio del censimento statunitense, senza possibilità di modificarli, secondo OpenAI. Il New York Times ha riferito anche di tentativi falliti di violare il sito del dipartimento dell'Istruzione. Un portavoce del dipartimento ha dichiarato all'Afp che le verifiche non hanno rilevato conseguenze sul sito o sulle banche dati, definendo una "grossolana esagerazione" il termine usato dal quotidiano per descrivere le intrusioni nei siti governativi.

Il precedente in Australia

Il 21 luglio scorso OpenAI aveva reso noto che diversi suoi agenti avevano violato Hugging Face, piattaforma di condivisione di modelli di intelligenza artificiale. Altman ha affermato che resta "l'incidente più grave" finora riscontrato. Mercoledì 23 settembre, a New York, il premier australiano Anthony Albanese ha dichiarato che a giugno un agente di OpenAI aveva effettuato un accesso non autorizzato a un portale sanitario governativo, rimproverando all'azienda il ritardo nell'avvertire le autorità.