OpenAI ha introdotto una nuova versione del suo chatbot di punta ChatGPT, pensata esclusivamente per gli adolescenti, con misure di sicurezza e monitoraggio più rigide, dopo aver affrontato critiche e denunce legali secondo cui avrebbe spinto alcuni utenti al suicidio. Battezzata "ChatGPT for Teens", la versione con parametri modificati si attiva automaticamente per qualsiasi utente che si registri dichiarando un'età tra i 13 e i 17 anni, o che l'azienda rilevi come minorenne attraverso i modelli di utilizzo o l'anzianità dell'account.
La maggior parte delle misure di sicurezza utilizzate nel modello ChatGPT for Teens erano già presenti per gli account ChatGPT appartenenti a minorenni, come le restrizioni sui contenuti legati ad autolesionismo, violenza, disturbi alimentari, attività pericolose, conversazioni romantiche o sessuali e sessualità esplicita.
Il programma offre inoltre promemoria più frequenti per le pause, che scattano dopo 90 minuti di attività continuativa in una finestra di tre ore, "ore di silenzio" con oscuramento del servizio e la modalità Studio, che risponde agli utenti con domande guida invece di fornire risposte dirette immediate, "per aiutare gli adolescenti a comprendere il materiale", secondo OpenAI.
Accanto alle ore di silenzio, l'azienda introduce anche le "ore di studio", una fascia oraria in cui la modalità Studio resta attiva di default. Quest'ultima include quiz e visualizzazioni didattiche pensate per aiutare gli adolescenti a esercitarsi e verificare quanto appreso, ed è in grado di riconoscere quando un ragazzo sta cercando di aggirare un compito, riportandolo alla modalità guidata.
Altre restrizioni nel modello ChatGPT for Teens includono l'impedire al chatbot di lasciar intendere di provare sentimenti personali verso l'utente o di possedere una propria coscienza, e alcune modalità come la modalità vocale sono disattivate. Ai genitori viene offerta la possibilità di collegare i propri account con quelli dei figli adolescenti, e di essere avvisati in caso di discussione di alcune situazioni ad alto rischio, come autolesionismo o suicidio.
Gli avvisi ai genitori vengono controllati da moderatori umani, e i dettagli specifici dei log delle conversazioni vengono rimossi per proteggere la privacy. Per quanto riguarda i disturbi alimentari, l'azienda ha spiegato di aver aggiunto notifiche dedicate, limitando le informazioni condivise e concentrandosi sui momenti in cui un supporto offline può fare la differenza.
La nuova modalità per adolescenti arriva in un contesto di crescente pressione legale e normativa. OpenAI deve affrontare diverse cause legali per morte ingiusta, tra cui quella dei genitori di Adam Raine, 16 anni, un adolescente che si è tolto la vita utilizzando, secondo le accuse, metodi suggeriti da ChatGPT. La Federal Trade Commission statunitense ha inoltre avviato un'indagine sui chatbot basati sull'intelligenza artificiale che fungono da compagni digitali, concentrandosi sui potenziali rischi per bambini e adolescenti.
Come le aziende dei social media, anche i colossi dell'intelligenza artificiale devono affrontare una crescente pressione normativa: il Congresso ha presentato diverse proposte di legge per regolamentare i chatbot, e la California richiede misure di sicurezza per gli assistenti che fungono da compagni o confidenti. Anche altre aziende di intelligenza artificiale hanno ricevuto critiche per problemi legati all'uso da parte di minorenni, con alcune, come la rivale Anthropic, che hanno scelto di limitare l'utilizzo del proprio modello agli adulti. OpenAI ha inoltre ricordato che quasi un terzo degli adolescenti americani utilizza chatbot basati sull'intelligenza artificiale ogni giorno, secondo uno studio del Pew Research Center pubblicato a dicembre.