AGI - Parole che sembrano uscire direttamente dal copione di "Matrix" e che portano nuove inquietudini sul futuro dell’intelligenza artificiale.
Un ingegnere britannico di Anthropic che negli ultimi tre anni ha lavorato anche per OpenAI, l'azienda creatrice del celebre ChatGPT, si è dimesso accusando entrambe le società di "non agire in modo responsabile" e di "giocare con le nostre vite".
Jacob Coxon, ingegnere informatico indicato dai media come uno degli sviluppatori di GPT-4o e GPT-4.5 (sebbene senza ruoli dirigenziali), ha affermato in una serie di post sul suo account X che le persone dietro lo sviluppo esponenziale dell'IA "credono che essa possa ucciderci tutti entro la fine di questo decennio", sottolineando che "nessun'altra attività umana rappresenta una minaccia di tale portata".
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
L'ingegnere, ventisettenne, ritiene che la potenza di questa tecnologia venga sottovalutata. Sostiene infatti che i progetti di IA "diventeranno presto sistemi sovrumani capaci di hackerare qualsiasi cosa, rivoluzionare ogni settore e acquisire potere e risorse reali".
A suo avviso, sia OpenAI che Anthropic sono consapevoli di questa realtà, ma esiste una differenza: la prima "potrebbe non aver pienamente interiorizzato le sfide che mettono a rischio la civiltà", mentre la seconda le comprende bene ma è "intrappolata nella corsa ad arrivare per prima" anche se, nello scenario più ottimistico, l'obiettivo è arrivare primi "proprio per poter agire in modo responsabile".
Coxon non vede altra soluzione se non il coordinamento tra i vari progetti di IA e le aziende coinvolte, eppure ritiene che ciò non stia accadendo. Sostiene quindi la necessità di "azioni impegnative, come una sospensione temporanea del potenziamento delle capacità dei modelli", e invita i ricercatori del settore a riflettere profondamente sulla questione.
"Volete alimentare un sistema di 'apprendimento per rinforzo' (RL, nel gergo tecnico) super-intelligente senza una comprensione rigorosa della sua mente?" chiede ai colleghi che si occupano di IA "Continuerete a restare in silenzio perché 'tanto sta accadendo comunque', o coglierete questo momento per sostenere condizioni diverse?".