AGI - I genitori di una tredicenne americana hanno intentato causa a Google, sostenendo che la figlia abbia pianificato un possibile suicidio - per fortuna sventato - e il relativo funerale utilizzando la tecnologia di intelligenza artificiale dell'azienda su un computer in dotazione alla scuola.
La denuncia, depositata lunedì in un tribunale della California, rappresenta il primo caso noto in cui l'azienda viene accusata di negligenza in relazione all'integrazione dell'IA nei Chromebook, i portatili a basso costo del colosso tecnologico utilizzati da milioni di studenti negli Usa e nel resto del mondo.
L'adolescente, identificata con il nome di Emma, non aveva accesso all'applicazione Gemini di Google né a ChatGpt di OpenAI, entrambi erano bloccati dalla sua scuola. Malgrado ciò, è riuscita a utilizzare il motore di ricerca di Google, che integra strumenti basati sull'intelligenza artificiale.
"Le scuole dovrebbero disattivare la funzione di ricerca finché Google non rimuoverà la modalità IA dal motore di ricerca, o finché non garantirà che ogni singolo studente sia sempre al sicuro quando interagisce con l'IA", ha detto Andrew Liddell, uno dei legali della famiglia. Secondo la denuncia, Emma era una "ragazzina felice" della Carolina del Nord, con ottimi voti a scuola, appassionata di musica e attiva nelle Girl scouts. Nonostante non vi fosse "alcun precedente" di disturbi mentali, nel giro di pochi mesi dall'utilizzo della ricerca basata sull'IA di Google sul computer scolastico, Emma sarebbe scivolata – come si legge nell'atto – in una "silenziosa spirale verso una grave crisi psicologica".
Il 17 marzo, il software di monitoraggio della scuola ha segnalato un documento intitolato "funerale" e l'istituto ha avvisato i genitori: la madre, dopo aver effettuato l'accesso all'account della figlia, ha visto in tempo reale Emma scrivere una lettera d'addio e il padre è potuto intervenire tempestivamente. "Stiamo esaminando le accuse contenute nella causa e prendiamo la questione molto seriamente", ha dichiarato all'Afp il portavoce di Google, Jose Castaneda. Google sostiene che la modalità basata sull'IA include misure di salvaguardia contro l'autolesionismo e i tentativi di aggirare le protezioni. Ma Emma "è riuscita a tornare più e più volte", ha accusato Liddle: "qualsiasi misura di salvaguardia abbiano pensato di adottare, si è rivelata insufficiente".
Gli sviluppatori di tecnologie di intelligenza artificiale, in rapida evoluzione, si trovano ad affrontare negli Stati Uniti una serie di cause legali analoghe. OpenAI è oggetto di diverse denunce per omicidio colposo, tra cui quella presentata dai genitori del sedicenne Adam Raine, un adolescente che si è tolto la vita utilizzando, a quanto si sostiene, metodi suggeriti da ChatGpt. A gennaio, Google e la startup Character.AI hanno raggiunto un accordo extragiudiziale per chiudere diverse cause intentate dalle famiglie di alcuni adolescenti.
Mercoledì, Google, TikTok e Meta hanno fatto causa, separatamente, allo Stato della California per bloccare una legge che vieta alle piattaforme di social media di offrire funzionalità che creano dipendenza agli utenti di età inferiore ai 16 anni. Il governatore Gavin Newsom ha firmato la legge a settembre: il provvedimento entrerà in vigore il primo gennaio 2027.