AGI - L'intelligenza artificiale e le armi nucleari rappresentano oggi una combinazione di rischi senza precedenti per l'umanità e richiedono una risposta globale fondata sul disarmo, sulla cooperazione internazionale e su una governance condivisa. È il messaggio centrale della 'Dichiarazione di Roma per una pace disarmata e disarmante', adottata al Borgo Laudato Si' dai partecipanti alla Global Nobel Laureates Assembly, che stamattina l'hanno firmata nell'Aula Giulio Cesare in Campidoglio. Presenti vari Premi Nobel, tra cui Maria Ressa (a cui è stato assegnato nel 2021 per la Pace), e l'attrice americana Sharon Stone.
Il documento parte da una constatazione netta: "L'umanità si trova in un momento decisivo della propria storia". Se oltre ottant'anni fa il mondo non riuscì a impedire la corsa agli armamenti nucleari, oggi "con l'intelligenza artificiale si presenta un pericolo analogo". La Dichiarazione avverte che l'integrazione dell'IA nei sistemi nucleari "riduce drasticamente il tempo disponibile per il giudizio umano durante una crisi, o addirittura lo sostituisce", aumentando il rischio di errori irreversibili. Gli estensori denunciano anche la crescente concentrazione delle tecnologie più avanzate "nelle mani di un numero ristretto di Paesi e di grandi imprese", con conseguenti squilibri di potere e minori incentivi alla cooperazione internazionale.
Richiamando Papa Leone XIV, il testo rilancia l'obiettivo di una "pace disarmata e disarmante" e afferma: "Respingiamo l'idea che una sicurezza duratura possa fondarsi sulla paura, sul dominio o sulla minaccia permanente della distruzione reciproca. La sicurezza non può continuare a poggiare sulla prospettiva della distruzione reciproca". La Dichiarazione propone così un nuovo paradigma di sicurezza fondato sulla fiducia reciproca, sul diritto internazionale e sulla responsabilità condivisa verso le generazioni future.
L'eliminazione verificabile e irreversibile delle armi nucleari resta l'obiettivo finale indicato dalla 'Dichiarazione di Roma per una pace disarmata e disarmante', che lancia un appello ai governi affinché riprendano senza ulteriori rinvii il cammino del disarmo. Il testo chiede "l'avvio urgente di negoziati seri, continui e condotti in buona fede" e invita la comunità internazionale a "respingere la normalizzazione delle armi nucleari come strumenti permanenti di sicurezza", rafforzando gli impegni previsti dal Trattato di non proliferazione e dal Trattato per la proibizione delle armi nucleari.
Agli Stati dotati di arsenali atomici viene chiesto di fermare la nuova corsa agli armamenti, ridurre progressivamente gli arsenali, abbassare i livelli di allerta, aumentare il tempo disponibile per le decisioni politiche e abbandonare le dottrine fondate sul "lancio su allarme" e sulla risposta immediata. Nelle conclusioni, la Dichiarazione richiama uno dei più celebri appelli del Novecento, firmato da Bertrand Russell e Albert Einstein: "Ci rivolgiamo, come esseri umani, ad altri esseri umani: ricordate la vostra umanità e dimenticate il resto". Un monito che il documento rilancia osservando che "è in gioco la nostra sopravvivenza e quella delle generazioni future", affidando alla responsabilità politica e morale della comunità internazionale il compito di evitare una nuova spirale di confronto nucleare e tecnologico.
Nessuna decisione sull'impiego delle armi nucleari dovrà mai essere affidata all'intelligenza artificiale. È una delle richieste più forti contenute nella 'Dichiarazione di Roma per una pace disarmata e disarmante', approvata dall'Assemblea dei premi Nobel in Vaticano. Il documento avverte che "la decisione finale di impiegare un'arma nucleare non deve mai essere affidata a un sistema automatizzato" e sollecita "l'adozione di un trattato internazionale che vieti l'integrazione irresponsabile dell'intelligenza artificiale nei sistemi di comando, controllo e lancio delle armi nucleari, garantendo che rimanga sempre un controllo umano effettivo e significativo".
Secondo i firmatari è inoltre indispensabile impedire che l'IA venga utilizzata per attacchi informatici contro infrastrutture nucleari strategiche. Per questo gli Stati dotati di arsenali atomici vengono invitati a sottoporre i propri sistemi a rigorose verifiche di sicurezza, così da ridurre il rischio di manipolazioni o controlli non autorizzati. La Dichiarazione insiste anche sulla responsabilità degli sviluppatori di IA, chiamati a rendere pubblici i principi che regolano il funzionamento dei loro modelli e a risponderne anche sul piano giuridico. "L'intelligenza artificiale deve essere progettata e monitorata affinché operi in armonia con gli interessi dell'umanità, nel rispetto del diritto internazionale e dei diritti umani", afferma il testo. Governi, imprese e organizzazioni internazionali devono coordinare anche un eventuale rallentamento dello sviluppo delle forme più avanzate di Ia attraverso verifiche indipendenti e meccanismi condivisi di controllo.
Un'educazione alla pace, all'etica dell'intelligenza artificiale e alla responsabilità delle nuove generazioni è una delle priorità della 'Dichiarazione di Roma per una pace disarmata e disarmante', adottata dai partecipanti alla Global Nobel Laureates Assembly. "Le sfide che oggi affrontiamo saranno con ogni probabilità risolte dalla prossima generazione di leader", spiegano i premi Nobel, e i giovani devono essere messi nelle condizioni di confrontarsi con i rischi rappresentati dalle armi nucleari, dall'intelligenza artificiale e dalle altre minacce globali. Per questo il documento propone programmi educativi capaci di sviluppare "responsabilità etica, pensiero critico, alfabetizzazione mediatica e digitale, competenze nell'uso dell'intelligenza artificiale e una autentica cultura della pace". Perché le conseguenze di nuovi strumenti ricadono su persone che "non hanno alcun accesso né controllo sulle tecnologie che le generano".
Da qui la proposta di creare un "bene comune digitale" capace di favorire la raccolta e la condivisione dei dati necessari a comprendere meglio i rischi legati alle armi nucleari, all'intelligenza artificiale priva di adeguata governance e ad altre minacce esistenziali. L'obiettivo dichiarato è di rafforzare la cooperazione internazionale e costruire strumenti comuni di conoscenza e prevenzione, nella convinzione che la sicurezza globale dipenda sempre più dalla capacita' di governare responsabilmente l'innovazione tecnologica.
Ad aprire la sessione dell'incontro di stamattina al Campidoglio è stato il sindaco di Roma, Roberto Gualtieri, che ha lanciato un duro monito contro la deriva dei conflitti moderni: "La tecnologia deve essere uno strumento a supporto dell'umanità, non un mezzo per eliminare o nascondere l'essere umano. Dobbiamo rifiutare con forza il tentativo inaccettabile di 'normalizzare' la guerra, presentandola quasi come un gioco in cui le persone non esistono. Ma non è così: la guerra uccide persone reali".
A scuotere l'aula anche le parole di Maria Ressa, Nobel per la Pace 2021, che ha denunciato il collasso della realtà condivisa sotto i colpi della disinformazione digitale: "Siamo in piedi sulle macerie del mondo che conoscevamo. L'intelligenza artificiale non è né artificiale né intelligente: è un termine di marketing coniato settant'anni fa. Senza fatti non si ha verità, senza verità non si ha fiducia, e senza queste cose non condividiamo più una realtà comune. Oggi la miccia della prossima guerra potrebbe non essere un missile, ma una menzogna generata dall'IA che viaggia a velocità di macchina, sei volte più veloce della verità". Ressa ha quindi scandito il principio cardine del documento siglato, ricordando che "alcune decisioni non devono mai essere delegate a un algoritmo, prima fra tutte l'uso delle armi nucleari".
Il drammatico scenario scientifico è stato poi delineato da David Gross, Premio Nobel per la Fisica 2004, che ha illustrato i rischi matematici di un'apocalisse atomica in un mondo privo di trattati bilaterali: "L'umanità si trova a un momento decisivo della sua storia. Ottantun anni dopo l'alba dell'era nucleare e alla soglia dell'era dell'IA, siamo di fronte a una sfida senza precedenti. I canali negoziali sono interrotti e la probabilità annua di una guerra nucleare è salita al 2%. Questo significa che l'aspettativa di vita media della nostra specie prima di un conflitto totale è di appena trentaquattro anni. È a rischio la vita dei nostri figli e nipoti; i popoli della Terra non possono più rimanere ignoranti di fronte a questo pericolo reale". A completare la giornata sono le dichiarazioni di Sharon Stone: "La dignità umana non è un algoritmo", ha detto l'attrice americana".