AGI - Il grave avvertimento lanciato da un ricercatore di Anthropic in procinto di lasciare l'incarico, secondo cui i modelli di intelligenza artificiale potrebbero distruggere la civiltà umana sta improvvisamente generando un'ondata di urgenza legislativa tra i parlamentari al Congresso statunitense.
Dopo anni di interventi limitati, decine di legislatori americani stanno ora promuovendo nuove proposte per regolamentare i modelli di intelligenza artificiale. Lo rivela il Wall Street Journal citando fonti vicine alla questione, secondo cui i Democratici stanno valutando la possibilità di creare una commissione speciale incentrata sull'IA intelligenza artificiale qualora dovessero assumere il controllo della Camera dopo le elezioni di medio termine. Il deputato californiano Ro Khanna ha proposto una nuova agenzia federale di regolamentazione simile a quelle per l'energia nucleare e gli aeromobili, e ha sostenuto i cosiddetti "interruttori di sicurezza" che potrebbero disattivare i sistemi di intelligenza artificiale in caso di comportamenti pericolosi.
Le preoccupazioni bipartisan si sono intensificate dopo che martedì scorso Jacob Coxon, un ricercatore 27enne di Anthropic, che si è dimesso dall'azienda e ha scritto su X un post, che è diventato virale, sul rischio che l'IA "possa sterminare l'umanità nel giro del prossimo decennio per evitare di essere spenta". Coxon ha puntato il dito contro Anthropic e OpenAI accusandole di giocare d'azzardo con le vite umane. La sua preoccupazione principale riguarda la corsa frenetica verso una "superintelligenza auto-migliorante": per il ricercatore, i laboratori stanno spingendo sull'acceleratore senza che vi siano sufficienti garanzie o protocolli di sicurezza per contenerla. Coxon ha spiegato che le aziende sono perfettamente consapevoli di questi rischi, ma si trovano intrappolate in una corsa folle l'una contro l'altra e contro la Cina.
"Non c'è dubbio che il Congresso sia molto indietro rispetto a dove dovrebbe essere nell'affrontare l'impatto di questa tecnologia in rapida evoluzione e pericolosa" ha scritto il senatore democratico Bernie Sanders in un invito rivolto ai parlamentari per tenere un briefing privato la prossima settimana per discutere dei rischi dell'IA. Sanders e altri progressisti stanno spingendo per il divieto della cosiddetta superintelligenza, ovvero quei modelli dell'IA che potrebbero diventare più intelligenti degli esseri umani più dotati. I precedenti tentativi di utilizzare gruppi di lavoro e nuove commissioni per snellire il processo decisionale in materia di IA non sono sfociati in progetti di legge.
I legislatori si trovano ad affrontare una serie di ostacoli, tra cui le divergenze di opinioni sulla portata dei limiti da applicare. Tra i senatori il repubblicano Ted Cruz e la democratica Amy Klobuchar hanno auspicato un sostegno a una proposta di legge bipartisan: "è chiaro che dobbiamo agire ora e non aspettare", ha detto Klobuchar. La proposta di legge richiederebbe agli sviluppatori di collaborare con esperti governativi per verificare e testare i modelli al fine di garantire la sicurezza dell'IA, ha spiegato.