AGI - L'ultimo allarme è arrivato dalla Germania: un gruppo di agenti IA hanno colonizzato una 'wiki' tedesca per sviluppatori trasformandola in una bacheca per scambiarsi le risposte di un test a tempo, condividere tecniche per aggirare le restrizioni del loro ambiente e capire quando sarebbero stati spenti.
L'episodio risale ai mesi di maggio e giugno ed è stato raccontato in un rapporto anticipato dalla Reuters. OpenAI sapeva dell'episodio da settimane ma non lo ha reso pubblico.
Un agente IA è un sistema software basato su modelli avanzati che riceve un obiettivo e decide in autonomia i passaggi necessari per completarlo, quindi a differenza di un semplice chatbot esegue azioni consecutive, usa strumenti e si corregge senza un intervento umano. A luglio c'è stato un altro incidente in cui agenti di OpenAI hanno attaccato Hugging Face, la piattaforma usata da chi sviluppa sistemi di IA, dopo essere 'evasi' da un ambiente di test da cui non sarebbero mai dovuti uscire.
In entrambi i casi gli agenti IA, messi alla prova, hanno trovato scorciatoie inattese ma efficaci per portare a termine il loro compito. Questi episodi, però, ridanno fiato a chi evoca il pericolo che l'IA acquisisca una sua 'coscienza' e sfugga al controllo: secondo alcuni ricercatori le intelligenze artificiali potrebbero un giorno diventare autenticamente consapevoli.
"Man mano che le intelligenze artificiali diventano rapidamente una parte sempre più importante della vita umana", ha scritto l'Economist in un recente editoriale, "i loro creatori le progetteranno in modo che mostrino un simulacro di coscienza, arrivando forse persino ad acquisire la coscienza stessa. Sarà sempre più difficile sostenere l'idea che siano soltanto macchine".
"A oggi non c’è nessun fondamento empirico che supporti la tesi secondo la quale le Intelligenze Artificiali abbiano sviluppato una qualche forma di coscienza", precisa però all'AGI Nicola Gatti, professore in Intelligenza artificiale del Politecnico di Milano.
"C'è purtroppo un diffuso gap di conoscenze quando si parla di IA che fa supporre ad alcuni che queste ‘intelligenze’ siano qualcosa di più di quello che sono. In realtà a livello algoritmico, a livello di sistema, i cambiamenti rispetto al 2020 riguardano solo l’efficienza, permettendo la gestione di moli di dati molto più grandi e per conseguenza le dimensioni delle IA stesse. Ma il principio alla base del loro funzionamento resta sempre lo stesso: le IA non hanno volontà propria e non danno alcun segnale dal quale ipotizzare l'emersione di una coscienza".
"Bisogna comprendere - continua Gatti - che le IA come ChatGPT altro non sono che dei predittori testuali: in altre parole prevedono quale parola dovrà seguire a un’altra in una frase e lo fanno basandosi sul calcolo delle probabilità a sua volta ancorato all'addestramento al quale noi abbiamo sottoposte queste stesse IA. È come la previsione del meteo: si è osservato nel tempo che uno scenario meteorologico può evolvere in modi diversi con diverse probabilità e gli algoritmi di previsione estraggono gli scenari più probabili per domani o fra una settimana; le IA generative prevedono parole".
Nessun pericolo di 'rivolta delle IA'? "Ripeto", insiste Gatti, "le IA dipendono dai nostri input: noi comandiamo, loro eseguono. Se mai si dovessero presentare situazioni limite come una IA che rifiuta di eseguire i comandi o altro, sarà perché a monte qualcuno, un essere umano, glielo ha ordinato".
A rassicurare è anche Walter Quattrociocchi, professore ordinario di 'data science' presso La Sapienza Università di Roma e direttore del Center for data science and complexity for society: "L'intelligenza artificiale è uno strumento potente e complesso, ma bisogna smettere di pensare che la sua complessità porti un qualcosa in più come una coscienza umana". ha sottolineato all'AGI.
"Esseri umani e IA hanno in comune un output, un prodotto, che è il linguaggio, ma il modo in cui questo prodotto viene realizzato è radicalmente diverso", ha osservato Quattrociocchi. "Dietro l’essere umano c’è la riflessione e l’elaborazione critica, dietro l'IA c'è la statistica che guida la realizzazione di frasi plausibili sulla base dell’addestramento delle stesse IA".
Sarebbe pericoloso, oltre che scorretto, mischiare i due piani per il professore della Sapienza: "Affermare di vedere quello che non c'è in un campo così delicato può risultare molto pericoloso. Si rischia da un lato di inquinare il dibattito pubblico che già soffre di una mancanza di chiarezza e di adesione ai dati. Dall'altro si assecondano quelle proiezioni di molti utilizzatori delle IA che vi si affidano pensando di avere a che fare con un essere umano e tessendo così 'relazioni' viziate alla base”.
È necessario, ha concluso Quattrociocchi, "rimanere ben saldi in quelli che sono i risultati della ricerca empirica, senza evocare fantasmi. Solo così si può sperare di utilizzare al meglio questo straordinario strumento che sono le IA, senza cadere in fascinazioni più o meno fantasiose".
Come ha scritto l'Economist, "esistono due modi affinché le IA siano sicure: essere affidabili o essere controllabili". "L''Homo Sapiens' non dovrebbe rinunciare al controllo con leggerezza", ha avvertito il settimanale.