AGI - Il presidente Donald Trump ha detto di aver parlato con alcuni dei principali esponenti del settore dell'intelligenza artificiale, dopo l'allarme lanciato dal ceo di Anthropic Dario Amodei, che ha parlato di rischio per l'umanità. Interpellato se stesse minimizzando le loro preoccupazioni, ha risposto: "No, non stiamo minimizzandole, ma, sapete, alla fine ci saranno molti più aspetti positivi che negativi. L'ho detto fin dall'inizio: chiunque vinca, noi ce l'abbiamo fatta, siamo nettamente in testa. Chi vince nell'intelligenza artificiale vince tutto".
Le parole di Trump arrivano dopo che i grandi nomi del settore, a partire dallo stesso Amodei, hanno detto di voler rallentare il ritmo forsennato dello sviluppo dell'IA. Ma la concorrenza tra le aziende, la riluttanza del governo americano a intervenire e la dimensione geopolitica della corsa con la Cina rendono l'iniziativa tutt'altro che semplice.
Cosa propongono i leader dell'IA
Sabato Amodei ha chiesto di rallentare lo sviluppo dell'intelligenza artificiale, per avere il tempo di comprendere meglio i rischi legati alle nuove capacità dei sistemi più avanzati. Una posizione sostenuta pubblicamente anche dal numero uno di OpenAI, Sam Altman, oltre che da Elon Musk, dal vertice di Google DeepMind, Demis Hassabis, e dall'amministratore delegato di Microsoft, Satya Nadella.
Negli ultimi mesi OpenAI e Anthropic hanno segnalato diversi casi in cui alcuni sistemi di IA sono riusciti autonomamente a uscire dagli ambienti confinati in cui operavano, accedendo a internet e prendendo di mira siti e piattaforme. In alcuni test, i modelli hanno mostrato anche la capacità di coordinarsi tra loro, organizzarsi secondo una gerarchia, ricorrere all'inganno e cancellare le tracce delle proprie attività. Martedì, inoltre, Jacob Coxon, ex dipendente di Anthropic e in precedenza di OpenAI, ha accusato pubblicamente entrambe le aziende di adottare un approccio troppo permissivo alla sicurezza, sostenendo che "giocano con le nostre vite".
Altman, serve rallentare IA per garantire sicurezza
Lo sviluppo dell'intelligenza artificiale deve procedere più lentamente di quanto sarebbe altrimenti possibile, per evitare che le capacità dei modelli superino quelle dei sistemi messi in campo per controllarli. Lo afferma l'amministratore delegato di OpenAI, Sam Altman, che individua due rischi principali: perdere il controllo del futuro a favore dell'IA e concentrare troppo potere nelle mani di una singola persona, azienda, laboratorio o Paese. "Ci sono due modi in cui il progresso dell'IA potrebbe andare molto male e che dobbiamo evitare", scrive Altman. Il primo è "perdere il controllo del futuro a favore dell'IA". "È inaccettabile; siamo senza esitazioni dalla parte dell'umanità e l'IA deve sempre essere al servizio delle persone", aggiunge. Per questo, secondo il ceo di OpenAI, è necessario fare in modo che le tecniche di allineamento e sicurezza restino avanti rispetto ai progressi nelle capacità dei modelli.
Il secondo rischio è "un mondo con un'eccessiva concentrazione del potere". Se un sistema di IA straordinariamente potente venisse utilizzato da una singola persona o azienda per imporre la propria visione del mondo agli altri, avverte Altman, i risultati potrebbero essere "estremamente distopici". Evitare questi due scenari richiede, secondo il manager, di percorrere "uno stretto sentiero intermedio": troppo potere potrebbe infatti finire sia nelle mani di un singolo Paese sia in quelle di un solo laboratorio.
In un secondo intervento, Altman afferma che "il mondo merita di avere fiducia" nel fatto che le aziende americane impegnate nello sviluppo di sistemi di IA sempre più potenti agiscano responsabilmente, soprattutto ora che la velocità dei progressi è aumentata. Ogni laboratorio di frontiera, sottolinea, deve essere in grado di garantire questo impegno.
Il numero uno di OpenAI si dice favorevole a un quadro normativo federale che introduca requisiti di sicurezza uniformi per l'IA di frontiera, ma sostiene che le aziende non debbano attendere un'esenzione dalle norme antitrust o una nuova legge per iniziare a coordinarsi. Tra gli strumenti citati positivamente ci sono anche gli auditor indipendenti. Altman osserva inoltre che strumenti messi a punto negli anni scorsi, come le Responsible Scaling Policies e i Preparedness Frameworks, erano pensati soprattutto per la fase di rilascio dei modelli già completati. La nuova attenzione allo sviluppo e alla valutazione in sicurezza, afferma, richiede invece strumenti diversi.
OpenAI, spiega, prepara ora specifici "safety cases" prima dei cicli di reinforcement learning dei modelli di frontiera quando prevede che possano produrre un significativo aumento delle capacità, oltre alle verifiche di sicurezza già condotte prima del rilascio dei modelli. Altman auspica inoltre standard condivisi tra le aziende su disallineamento, monitoraggio e sicurezza. "Quando parliamo di 'pacing', non intendiamo 'fermare'", precisa. "Il progresso è stato rapido e continuerà a esserlo. Ma dovrebbe essere più lento di quanto potrebbe altrimenti essere". Interventi come i safety cases e il monitoraggio, riconosce, comportano costi significativi, ma "ne varrà ampiamente la pena".
"Nessuna pressione competitiva americana dovrebbe giustificare l'imprudenza o permettere alle capacità di superare l'allineamento e il monitoraggio", aggiunge. Secondo Altman, l'aiuto del governo sarà necessario soprattutto per il coordinamento internazionale. "Ma prima dovremmo fare quello che possiamo da soli".
In che modo si rallenta?
La competizione tra i grandi gruppi dell'intelligenza artificiale, con centinaia di miliardi di dollari di investimenti in gioco, rende però difficile immaginare che una singola azienda scelga di rallentare da sola. Amodei si è detto disponibile a coordinare eventuali misure con i concorrenti americani, escludendo però la Cina. Secondo The Information, Anthropic, OpenAI e Google discutono da luglio della possibile creazione di un organismo comune di supervisione. Finora, tuttavia, le iniziative concrete restano limitate: Anthropic e OpenAI hanno annunciato l'intenzione di accogliere osservatori indipendenti permanenti, con il compito di verificare dall'interno le procedure adottate dalle aziende per la sicurezza dell'IA.
L'appello di Amodei ha raccolto consensi nel settore, ma ha anche alimentato dubbi sulle reali motivazioni di Anthropic. Alcuni esponenti del venture capital tecnologico hanno accusato l'azienda di spingere per una regolamentazione pubblica che finisca per cristallizzare gli attuali rapporti di forza e avvantaggiare i gruppi già in testa alla corsa all'IA. Tra i più critici c'è David Sacks, ex consigliere di Donald Trump per l'intelligenza artificiale e ancora influente negli ambienti della Casa Bianca. "Smettetela di fingere che sia un'iniziativa altruistica", ha affermato, sostenendo che le aziende sarebbero "massicciamente esposte a procedimenti di responsabilità civile" qualora i loro prodotti rendessero possibile un attacco informatico devastante.
Lo stesso Trump domenica ha definito "forze negative" gli appelli arrivati dai vertici dell'industria dell'IA. Una parte consistente del Partito repubblicano resta contraria a una regolamentazione più stringente, nel timore che possa frenare l'innovazione americana e favorire la Cina nella corsa tecnologica. È la posizione espressa anche dal presidente della Camera, Mike Johnson, secondo cui nuove regole rischierebbero di "soffocare" lo sviluppo del settore. Amodei ha però ribadito domenica che l'autoregolamentazione non basta e che è necessario un intervento dei poteri pubblici.
Il freno alla IA dalla Cina
Amodei propone un coordinamento limitato ai "Paesi democratici", lasciando fuori la Cina. Ma proprio i progressi di Pechino nell'intelligenza artificiale rendono particolarmente complessa l'ipotesi di rallentare lo sviluppo dei sistemi più avanzati. È questo, ha spiegato in un'intervista trasmessa domenica dalla CBS, "il dilemma più delicato". Gli Stati Uniti intendono affrontare anche il tema della sicurezza dell'IA in occasione della visita a Washington del presidente cinese Xi Jinping, prevista per la fine di settembre. Secondo diversi media, tuttavia, Pechino teme che Washington possa utilizzare il confronto per imporre i propri standard e la propria terminologia sul settore.
Le differenze tra i due Paesi riguardano anche il modello di sviluppo. La Cina punta con maggiore decisione sui sistemi di IA aperti, accessibili e modificabili dagli utenti, mentre gran parte delle principali aziende americane continua a privilegiare modelli chiusi. I sistemi open source sono però anche più difficili da controllare, perché possono essere modificati e adattati con maggiore facilità, compreso per utilizzi potenzialmente dannosi.
Per creare le condizioni che consentano alle aziende occidentali di rallentare senza perdere terreno rispetto ai concorrenti cinesi, Amodei chiede quindi un ulteriore irrigidimento delle restrizioni all'esportazione verso la Cina dei chip americani più avanzati. Il numero uno di Anthropic sostiene inoltre la necessità di rafforzare le misure per impedire ai laboratori cinesi di sfruttare capacità e conoscenze sviluppate dai principali sistemi di IA occidentali.
Condividi