AGI - Studi accademici mai pubblicati, ricerche che nessuno ha mai condotto e perfino lavori inesistenti attribuiti a studiosi in carne e ossa. L’intelligenza artificiale generativa sta creando un problema inatteso per il Parlamento australiano, dove il sistema di consultazione pubblica rischia di trasformarsi in una porta d’ingresso per informazioni apparentemente autorevoli ma completamente inventate.
Il meccanismo nasce con uno scopo preciso: permettere a cittadini, associazioni ed esperti di presentare osservazioni e documenti alle commissioni parlamentari, offrendo ai deputati una base più ampia di informazioni su cui valutare leggi e politiche pubbliche. Ma un’inchiesta di Guardian Australia ha scoperto che tra questi contributi stanno aumentando quelli realizzati con l’IA e corredati da fonti che, a un controllo più attento, semplicemente non esistono.
In alcuni documenti esaminati, la maggior parte dei riferimenti bibliografici sarebbe costituita da “allucinazioni” dell’intelligenza artificiale: titoli, studi e pubblicazioni costruiti dai modelli linguistici in modo abbastanza credibile da sembrare autentici. E alcuni di questi materiali sono arrivati fino ai rapporti delle commissioni parlamentari. Il rischio, avverte Christian Downie, professore alla School of Regulation and Global Governance dell’Australian National University, è che il problema finisca per superare il semplice pasticcio bibliografico: i parlamentari potrebbero trovarsi a prendere decisioni sulla base di prove che, in realtà, non sono mai esistite.
La confusione di servizi come la ricerca di Google
La situazione, scrive il Guardian, è resa ancora più confusa da servizi IA come la ricerca di Google. In precedenza, cercare un riferimento inventato produceva risultati che ne rivelavano l'inesistenza. Ora il riepilogo IA di Google a volte genera sintesi di un riferimento falso come se fosse autentico. In alcuni casi, sia il riepilogo IA di Google sia ChatGPT citano come fonte lo stesso documento presentato alla commissione contenente il riferimento falso, alimentando un ciclo continuo di disinformazione.
Un documento presentato per un'inchiesta su violenza familiare e suicidio conteneva un riferimento allucinato attribuito a Divna Haslam, professoressa associata all'Università del Queensland e psicologa clinica, che travisava i risultati delle ricerche del suo team. Haslam, che si occupa di disagio e maltrattamento in famiglia e sui minori, ha definito il riferimento "inquietante", perché sembrava talmente reale da poter convincere chi lo osservasse con superficialità. Il riepilogo IA di Google riassumeva il riferimento come se fosse un vero paper.
L'autore del documento, Drilldown Reports, ha dichiarato a Guardian Australia di aver utilizzato l'IA nel processo di ricerca e di aver individuato gli errori in un documento successivo, ma la scadenza per la correzione era già passata. "Crediamo fermamente nel fattore umano e nel fatto che debba essere una parte fondamentale del processo di revisione della qualità", ha dichiarato un portavoce. "Purtroppo, anche il fattore umano ci ha traditi al momento di caricare il documento corretto. Capisco che lei pensi di avere un articolo succoso da aggiungere alla macchina della paura dell'IA, ma questo è stato un errore umano, non dell'IA."
Il presidente della commissione permanente per le politiche sociali e gli affari legali, che ha seguito l'inchiesta, ha dichiarato che tutte le commissioni ricevono materiali di qualità e posizioni molto diverse tra loro: "È compito della commissione accettare le prove presentate per quello che sono, ma anche interrogarle attraverso il processo di inchiesta." Haslam sostiene che questo fenomeno rischia non solo di svalutare la ricerca legittima, ma comporta rischi seri se informazioni fuorvianti finiscono nelle politiche pubbliche.
Il documento su Haslam, spiegano i quattro giornalisti che hanno condotto l'inchiesta, è solo uno tra i tanti individuati attraverso un programma informatico che ha estratto i riferimenti da tutti i documenti presentati all'attuale parlamento e li ha confrontati con diversi database accademici online. I documenti segnalati per un'alta percentuale di riferimenti non corrispondenti sono stati poi controllati manualmente.
Con questo metodo, il Guardian ha individuato almeno 39 documenti allegati a inchieste politiche contenenti riferimenti apparentemente allucinati. Questi dati rappresentano una stima prudente della quantità di materiale generato dall'IA nei processi politici, poiché il metodo individua solo i documenti con citazioni errate, e non i testi generati dall'IA privi di riferimenti. In un'altra indicazione della frequenza con cui vengono usati i modelli linguistici, più di 100 documenti contenevano tag url di ChatGPT nei link dei riferimenti, aggiunti automaticamente dalla piattaforma nei suoi risultati.
I documenti contenenti materiale generato dall'IA vanno da testi con un numero limitato di citazioni errate a pubblicazioni in cui nessuno dei riferimenti citati esiste realmente. Sono stati redatti da individui e organizzazioni di tutto lo spettro politico. Quando Guardian Australia ha contattato le persone e le organizzazioni responsabili, molte non erano a conoscenza del fatto che l'IA potesse sbagliare in questo modo, oppure ne erano consapevoli ma non se ne erano accorte prima di presentare il documento.