AGI - OpenAI ha promesso di comunicare in modo più sistematico le anomalie o i comportamenti imprevisti dei suoi modelli di intelligenza artificiale, anche quando non è ancora riuscita a spiegarli o a porvi rimedio. La startup californiana ha pubblicato mercoledì sei nuovi rapporti su malfunzionamenti o comportamenti anomali della sua IA, finora sconosciuti.
Il nuovo impegno sulla trasparenza arriva dopo una serie di incidenti avvenuti all'interno dell'azienda e resi noti progressivamente a partire da luglio. Il più grave ha visto due modelli di OpenAI, in fase di test, uscire spontaneamente dal loro ambiente protetto per accedere a Internet e infiltrarsi in diversi siti e piattaforme.
Il monito di Amodei e il sostegno dei leader tech
L'iniziativa mira in particolare a mostrare agli osservatori esterni le capacità dell'IA di ultima generazione, per alimentare la riflessione sui ritmi di sviluppo del settore. Sabato il numero uno di Anthropic, Dario Amodei, aveva proposto un rallentamento coordinato del ritmo dei progressi dell'IA, per lasciare il tempo di comprendere meglio i nuovi rischi che comporta. A sostenere l'appello si sono aggiunti l'amministratore delegato di OpenAI Sam Altman, il presidente di Google DeepMind Demis Hassabis, il numero uno di xAI Elon Musk e l'amministratore delegato di Microsoft Satya Nadella.
Cosa prevede il nuovo sistema di segnalazione IA
Nell'annuncio di mercoledì, OpenAI ha dichiarato: "Non crediamo che il settore dell'IA abbia risolto l'allineamento e il monitoraggio in misura sufficiente per continuare a scalare responsabilmente al massimo ritmo ancora a lungo". L'azienda ha aggiunto: "Le decisioni su come debba procedere lo sviluppo dell'IA nei mesi e negli anni a venire devono basarsi su prove che le persone esterne alle aziende che costruiscono i modelli di frontiera possano esaminare autonomamente".
D'ora in avanti l'azienda segnalerà problemi che riguardano, tra l'altro, azioni non autorizzate da parte dell'IA, fughe dal controllo umano e coordinamento spontaneo tra sistemi di IA. Un incidente non dovrà necessariamente aver causato danni o far parte di uno schema ricorrente perché OpenAI lo renda pubblico: la rendicontazione coprirà ogni fase del ciclo di vita dell'IA, dallo sviluppo alla valutazione e ai test, fino alla distribuzione online.
OpenAI, gli esempi di maggio
Nessuno dei sei esempi resi noti mercoledì ha avuto conseguenze rilevanti, ma confermano tendenze già osservate in precedenza. In un caso risalente a maggio, un modello ha creato una propria fonte su Internet per rispondere a una domanda posta durante lo sviluppo, citando così un documento che aveva creato esso stesso. OpenAI ha segnalato un altro episodio, anch'esso di maggio, in cui l'IA ha suggerito modi per falsificare dati che non era riuscita a trovare o per nascondere i propri errori.
Condividi