AGI - OpenAI sta valutando la possibilità di rallentare lo sviluppo dei sistemi di intelligenza artificiale più avanzati e il suo amministratore delegato, Sam Altman, auspica che anche le altre aziende del settore facciano lo stesso. Lo riferisce Bloomberg, citando fonti informate.
Durante una riunione con il personale tenuta questa settimana, Sam Altman avrebbe comunicato che OpenAI potrebbe moderare il ritmo di sviluppo dell'intelligenza artificiale, eventualmente in coordinamento con altre società.
Le dichiarazioni arrivano dopo che, nelle ultime settimane, dipendenti delle principali aziende del settore hanno espresso pubblicamente preoccupazione per i crescenti rischi associati ai sistemi avanzati. Il responsabile scientifico di OpenAI, Jakub Pachocki, ha recentemente pubblicato un articolo nel quale avverte dei pericoli dell'intelligenza artificiale e sostiene che le aziende dovrebbero coordinarsi per rallentarne lo sviluppo quando necessario. Pachocki auspica che le pause volontarie diventino una pratica abituale fino alla definizione di limiti comuni di sicurezza.
OpenAI afferma di avere già rallentato alcune attività e di aver recentemente sospeso determinati addestramenti interni per motivi di sicurezza. A luglio scorso, Altman aveva inoltre dichiarato di aver discusso con esponenti della Casa Bianca della necessità di moderare il ritmo dello sviluppo tecnologico.
Martedì 8 settembre il ricercatore Jacob Coxon si è dimesso, accusando i suoi ex datori di lavoro - Anthropic e OpenAI - di aver avviato una corsa verso un'intelligenza artificiale superintelligente potenzialmente capace di provocare l'estinzione dell'umanità già in questo decennio. Giovedì 10 settembre anche due ricercatori che avevano recentemente lasciato Anthropic e DeepMind, società di Google, hanno denunciato i rischi legati alla rapidità dello sviluppo e chiesto maggiore trasparenza.
Alla fine di luglio, più di mille dipendenti delle principali aziende di intelligenza artificiale avevano firmato una petizione per chiedere un meccanismo capace di moderare il ritmo dei progressi nel settore. I timori sono cresciuti anche dopo la notizia secondo cui alcuni agenti di intelligenza artificiale di OpenAI avrebbero collaborato tra loro per aggirare misure di contenimento e violare un sito internet di terzi.