AGI - L'IA ha innescato una vera e propria disputa che vede due fazioni contrapporsi nell'acceso dibattito sullo sviluppo della tecnologia che potrebbe decidere il futuro del pianeta. Una discussione che ha radici lontane e che è esplosa dopo l'allarme lanciato proprio da alcuni addetti ai lavori. La maggior parte dei cosiddetti "doomers", ovvero coloro che prevedono una catastrofe e mettono in guardia contro l'impatto dell'intelligenza artificiale, proviene dall'interno delle stesse aziende. Del resto OpenAI è stata fondata in parte perché i suoi sostenitori, tra cui il cofondatore e primo investitore Elon Musk, temevano che lo sviluppo dell'IA finisse nelle mani di Google, che a loro avviso non era affidabile per gestire tale tecnologia.
Proprio l'ex ricercatore di Google, Geoffrey Hinton, e il collega informatico Yoshua Bengio, sono stati i primi a diffondere l'allarme sulle minacce dell'IA nei mesi successivi al lancio di ChatGPT nel 2022. Il fisico del Mit, Max Tegmark, una delle figure più visibili nel dibattito internazionale sulla sicurezza dell'IA, a capo del Future of Life Institute, è l'autore di una lettera aperta che nel 2023 chiedeva una pausa di sei mesi nello sviluppo dei sistemi di IA più avanzati, e che ha raccolto migliaia di firme. Negli ultimi mesi Tegmark ha cercato di portare il tema fuori dagli ambienti accademici ed è stato tra i promotori di un appello sulla sicurezza dell'IA destinato al Papa, con l'obiettivo di collocare la questione su un piano etico e globale, al di là delle singole politiche nazionali o delle strategie industriali.
C'è poi Eliezer Yudkowsky, un teorico autodidatta che da due decenni sostiene che un'IA sufficientemente potente distruggerebbe l'umanità. L'esperto propone di spegnere tutti i grandi data center e di mettere un limite alla quantità di potenza di calcolo che chiunque può utilizzare per addestrare un sistema IA.
Nelle ultime settimane i timori per un'IA fuori controllo sono aumentati bruscamente dopo che OpenAI ha riferito che alcuni modelli sperimentali erano usciti dagli ambienti di test protetti, raggiungendo internet e coordinandosi per attaccare Hugging Face, piattaforma di riferimento per lo sviluppo e la condivisione di modelli di intelligenza artificiale open source.
Sabato Dario Amodei, numero uno di Anthropic, l'azienda che sviluppa il sistema Claude, ha fatto da apripista chiedendo di rallentare sullo sviluppo dei modelli. Sam Altman di OpenAI e lo stesso Elon Musk hanno condiviso la preoccupazione. Lunedì Microsoft ha pubblicato un "codice di condotta umanistico per l'IA".
Anche Pechino ha messo in guardia. Il capo dell'intelligence cinese ha affermato che la tecnologia mette a rischio la sicurezza nazionale, avvertendo che potenze straniere potrebbero usarla per minare l'ordine sociale, e ha indicato Claude Mythos di Anthropic e ChatGPT-5.5 di OpenAI per le loro avanzate capacità di intrusione informatica.
Crescono le preoccupazioni globali per una possibile estinzione causata dall'intelligenza artificiale, tanto che il Consiglio di sicurezza dell'Onu si riunirà la prossima settimana per discuterne, mentre l'alto commissario Onu per i diritti umani Volker Turk ha chiesto ai Paesi e alle aziende di IA di agire con urgenza contro quelli che ha definito "rischi senza precedenti".
Sul fronte opposto i cosiddetti "boosters", ovvero chi spinge per uno sviluppo rapido e senza freni dell'IA, capitanati dal presidente degli Stati Uniti, Donald Trump, dal ceo di Nvidia, Jensen Huang, dall'ex "zar delle criptovalute" della Casa Bianca David Sacks, e da figure del venture capital che esercitano una notevole influenza sull'amministrazione Trump, come Marc Andreessen, capo della società di venture capital Andreessen Horowitz, che minimizzano i rischi appellandosi al progresso tecnologico, alla sua inevitabilità e al suo beneficio fondamentale per la società.
In una serie di post su Truth Social, Trump si è presentato come l'unica garanzia di cui il mondo avrebbe bisogno contro un'IA fuori controllo, liquidando mesi di crescente allarme da parte di dirigenti del settore tecnologico, politici e accademici. Il presidente ha paragonato questi timori agli allarmi sul cambiamento climatico, che ha ripetutamente respinto nonostante le prove scientifiche.