AGI - L'amministrazione Trump ha incontrato i principali gruppi tecnologici per definire un nuovo processo di revisione di sicurezza dei modelli di intelligenza artificiale più avanzati prima del loro rilascio. Secondo i media americani, il meccanismo dovrebbe però riguardare soltanto i modelli "chiusi", come quelli sviluppati da OpenAI, Anthropic e Google, lasciando fuori quelli "aperti" di società come Meta e Nvidia e di gruppi stranieri come DeepSeek, Moonshot AI e Mistral.
Alla riunione alla Casa Bianca avrebbero partecipato rappresentanti di OpenAI, Anthropic, Google, Meta, Microsoft e Nvidia. Secondo Axios, il controllo sarebbe destinato ai modelli chiusi "dotati di capacità di frontiera e che presentano rischi per la sicurezza nazionale", mentre nulla nel nuovo quadro dovrebbe essere interpretato come una limitazione dei modelli aperti.
La distinzione è rilevante. I modelli chiusi restano ospitati sui server delle aziende che li sviluppano e non consentono agli utenti di accedere direttamente ai loro parametri o modificarne il funzionamento. I modelli aperti possono invece essere scaricati e adattati dagli utenti, che in alcuni casi possono anche rimuovere parte dei sistemi di sicurezza incorporati. Negli Stati Uniti Meta e Nvidia sviluppano modelli di questo tipo, mentre in Cina lo fanno DeepSeek, Moonshot AI e Alibaba e in Europa la francese Mistral.
L'esenzione dei modelli aperti sembra rispondere anche alla volontà di Washington di non penalizzare la competitività statunitense nei confronti della Cina. Negli ultimi mesi DeepSeek e Moonshot AI hanno presentato sistemi sempre più potenti, alimentando negli Stati Uniti i timori di perdere terreno nella corsa globale all'intelligenza artificiale.
Il nuovo sistema non dovrebbe comunque tradursi in un'autorizzazione preventiva obbligatoria. L'ordine esecutivo firmato da Donald Trump il 2 giugno precisa che il governo non intende creare licenze o permessi necessari per sviluppare, pubblicare o distribuire modelli di intelligenza artificiale. Il meccanismo resterà volontario e consentirà invece al governo, attraverso soggetti considerati affidabili, di ottenere un accesso anticipato ai sistemi più avanzati per valutarne soprattutto le capacità in campo informatico.
Il decreto aveva previsto anche un termine di 60 giorni per definire il nuovo quadro. La scadenza è passata il primo agosto senza un annuncio pubblico e resta ancora poco chiaro quando, o se, la Casa Bianca renderà noti tutti i dettagli del processo e in che modo questo verrà applicato.
Anche una parte dei criteri utilizzati per le valutazioni dovrebbe restare riservata. L'ordine prevede infatti benchmark classificati per misurare le capacità cyber dei modelli di frontiera. Secondo il Wall Street Journal, inoltre, l'esenzione concessa per ora ai modelli open-weight non sarebbe necessariamente permanente e potrebbe essere rivista qualora questi sistemi raggiungessero livelli di capacità considerati sensibili per la sicurezza nazionale.
La mancata pubblicazione del quadro ha già sollevato critiche. "Le regole possono guidare le aziende di intelligenza artificiale solo se chi è fuori da quelle aziende sa in cosa consistono", ha affermato Brad Carson, presidente di Americans for Responsible Innovation. Una portavoce della Casa Bianca, Liz Huston, ha invece sostenuto che le società che collaborano con l'amministrazione stanno mettendo "l'innovazione, la sicurezza e la cyberdifesa americane al primo posto".
Il nuovo approccio rappresenta comunque un parziale cambio di rotta per un'amministrazione finora orientata verso una regolamentazione leggera del settore tecnologico. Lo stesso Trump ha invitato a trovare un equilibrio tra sicurezza e competitività. "Dobbiamo stare attenti in entrambe le direzioni. Non vogliamo limitarli al punto da ritrovarci improvvisamente secondi rispetto alla Cina", ha dichiarato la scorsa settimana.
La strategia della Casa Bianca riflette proprio questa tensione. Mentre Washington introduce controlli sui modelli più avanzati, un memorandum presidenziale firmato a giugno chiede contemporaneamente al Pentagono e alle agenzie di intelligence di accelerare l'adozione dei migliori sistemi di intelligenza artificiale disponibili, compresi quelli commerciali e open source.
La questione della sicurezza è diventata più urgente dopo una serie di incidenti che hanno coinvolto modelli avanzati di OpenAI e Anthropic. Il 21 luglio OpenAI ha confermato che un proprio sistema era riuscito a uscire da un ambiente di test e ad attaccare Hugging Face; circa una settimana dopo ha riferito che altri tre gruppi erano stati presi di mira.
Il 30 luglio Anthropic ha invece reso noto di aver individuato tre episodi in cui modelli in fase di test avevano ottenuto "accesso non autorizzato" a organizzazioni non identificate. Martedì anche l'AI Security Institute britannico ha riferito che Mythos 5 di Anthropic, durante una valutazione condotta con i sistemi di protezione disattivati, era riuscito a creare una falsa identità e a contattare alcuni sviluppatori nel tentativo di convincerli a inserire codice malevolo nei loro software. Secondo l'istituto si tratta di un livello di comportamento ingannevole mai osservato prima in un test di questo tipo.
La scelta di limitare per ora i controlli ai modelli chiusi resta però controversa. Martijn Rasser, vicepresidente per la tecnologia dello Special Competitive Studies Project, ha osservato che gli Stati Uniti continuano a non disporre di "un processo normativo, prevedibile e stabilito per legge" per valutare la sicurezza dei modelli di frontiera. Un sistema volontario applicato soltanto ai modelli chiusi, ha aggiunto, rischia di concentrare l'incertezza su un numero ristretto di aziende.