IA: la scelta etica di Anthropic, blocca Fable 5 su armi e cybersecurity

AGI – Anthropic ha reso per la prima volta disponibile al pubblico Mythos, la versione più potente del suo modello di intelligenza artificiale Claude. La gamma Mythos era stata presentata ad aprile ma per ragioni di sicurezza l'accesso era stato ristretto ai clienti più fidati. Fable 5, il modello di Mythos di cui tutti possono ora fruire, ha limitazioni in campi come la cybersecurity e le armi chimiche e biologiche. La versione senza restrizioni, Claude Mythos 5, è invece offerta ad aziende, organizzazioni e agenzie governative che già hanno accesso a questa famiglia di modelli, considerata in grado di rilevare e sfruttare le falle nella sicurezza con velocità e precisione senza precedenti.

Il lancio di Mythos, due mesi fa, aveva attirato su Anthropic accuse di "marketing basato sulla paura" e aveva messo in allerta tutti i governi e le istituzioni internazionali sulle possibili minacce alle infrastrutture critiche, come i settori bancari ed energetici. Da allora, diverse aziende che avevano accesso a Mythos ne hanno confermato le enormi capacità e il governo statunitense, nonostante la disputa con Anthropic, lo ha finalmente testato. La Casa Bianca ha quindi istituito un processo di valutazione volontaria per i modelli di intelligenza artificiale americani più potenti prima della loro commercializzazione. OpenAI, rivale di Anthropic, sta per presentare la versione 5.6 del suo ChatGPT.

Le restrizioni su sicurezza informatica e biologia

Fino ad ora, Anthropic aveva giustificato la restrizione dell'accesso a Mythos solo sulla base dei rischi per la sicurezza informatica. Con Fable 5, Anthropic estende la vigilanza ai rischi di attacchi biologici e chimici. Il laboratorio cita l'esempio della progettazione di virus adeno-associati (Aav), potenzialmente pericolosi ma anche utili nella terapia genica. La versione senza restrizioni sarà infatti resa disponibile a ricercatori selezionati nel campo della biologia, spiega l'azienda.

I test e i filtri automatici

Anthropic ha spiegato che la maggior parte delle ricerche relative alla sicurezza informatica o alla biologia riceve una risposta dal modello di livello inferiore, Opus 4.8, rilasciato alla fine di maggio. Anthropic presenta Fable 5 come la versione sicura di Mythos che, senza le dovute misure di sicurezza, non potrebbe essere resa pubblica. Filtri automatici analizzano le ricerche in tempo reale e bloccano quelle sensibili. Anthropic ha incaricato esperti esterni di tentare di aggirare questi filtri - un approccio di attacco simulato noto come "red teaming" - e ha promesso un premio a coloro che ci riescono.

Il bypass universale e i dati

Secondo l'azienda, in 1.000 ore di test, nessuno è riuscito a realizzare un "bypass universale", ovvero a sbloccare completamente il modello. Tuttavia, "è probabilmente impossibile impedire completamente un aggiramento universale", ammette Anthropic. Tutti i dati provenienti da questi modelli avanzati saranno conservati per 30 giorni.

I rapporti con la Casa Bianca

La startup di San Francisco si era scontrata con l'amministrazione Trump perché si era rifiutata di revocare le restrizioni sulla sorveglianza di massa e sulle armi autonome letali. Il Pentagono aveva quindi rescisso i contratti con l'azienda, i cui strumenti di intelligenza artificiale erano gli unici ad avere un'autorizzazione di sicurezza classificata.

Il prezzo del lancio

Il lancio di Fable 5 ha un prezzo elevato: fino a 50 dollari per milione di token, l'unità di misura per le ricerche e i risultati generati, il doppio del prezzo di Opus 4.8. Una sessione di programmazione intensiva può consumare un milione di token in poche ore, o anche meno. L'azienda ha recentemente firmato un accordo con Elon Musk per l'utilizzo di uno dei suoi data center per 1,25 miliardi di dollari al mese.