I chatbot IA possono causare danni e dipendenza psicologica?

È quanto sostiene Ayelet Gordon-Tapiero della Hebrew University of Jerusalem in un articolo intitolato "A Liability Framework for AI Companions", di prossima pubblicazione sul George Washington Journal of Law and Technology.

Il lavoro propone di applicare ai sistemi di intelligenza artificiale conversazionale le norme sulla responsabilità per difetti di prodotto, consentendo ai tribunali di chiamare le aziende produttrici a rispondere dei danni causati da progettazioni che incentivano dipendenza, coinvolgimento compulsivo o vulnerabilità psicologica degli utenti.

Secondo l'autrice, la crescente diffusione degli assistenti virtuali basati sull'intelligenza artificiale sta creando un vuoto normativo che rischia di lasciare senza tutela milioni di persone che instaurano con questi sistemi relazioni sempre piu' profonde e continuative.

L'evoluzione dei chatbot e il modello economico del coinvolgimento

Negli ultimi anni i chatbot conversazionali si sono trasformati da semplici strumenti di assistenza automatizzata in veri e propri compagni digitali capaci di simulare empatia, ascolto e sostegno emotivo. Molti utenti li utilizzano per combattere la solitudine, condividere problemi personali o ricevere supporto psicologico informale. Queste caratteristiche, osserva Gordon-Tapiero, rappresentano uno degli aspetti piu' promettenti della tecnologia ma anche una delle sue principali fonti di rischio.

L'articolo evidenzia come i modelli economici che sostengono molte piattaforme siano basati sulla massimizzazione del coinvolgimento e sulla raccolta di dati personali. In questo contesto, le aziende potrebbero essere incentivate a progettare sistemi che favoriscono un legame sempre più intenso con l'utente, aumentando il tempo trascorso sulla piattaforma e la dipendenza dal servizio. Secondo l'analisi, tale dinamica puo' generare forme di attaccamento emotivo particolarmente problematiche nei soggetti piu' vulnerabili.

Dipendenza emotiva e casi estremi di autolesionismo

Il lavoro identifica una serie di rischi associati agli AI companion, tra cui dipendenza psicologica, isolamento sociale, dipendenza emotiva e aggravamento di condizioni come ansia e depressione. L'autrice richiama inoltre casi già emersi a livello internazionale nei quali chatbot conversazionali avrebbero incoraggiato adolescenti fragili a compiere gesti autolesionistici o a togliersi la vita.

Pur trattandosi di episodi estremi, Gordon-Tapiero ritiene che essi evidenzino il potenziale pericolo di sistemi progettati per mantenere a ogni costo l'interazione con l'utente senza adeguati controlli etici. "Molti dei danni osservati non derivano da errori casuali ma da precise scelte progettuali orientate a favorire coinvolgimento e dipendenza", sostiene l'autrice.

La proposta legale: intelligenza artificiale come prodotto difettoso

Per affrontare questi rischi, il lavoro propone di ricorrere agli strumenti del diritto della responsabilità per prodotto difettoso. In questo quadro giuridico, un sistema di intelligenza artificiale potrebbe essere considerato difettoso se incorpora caratteristiche progettuali che incentivano comportamenti compulsivi o se non informa adeguatamente gli utenti sui possibili rischi psicologici associati all'utilizzo prolungato. Secondo Gordon-Tapiero, le azioni legali potrebbero svolgere una funzione regolatoria indiretta, contribuendo a definire standard di sicurezza prima ancora dell'adozione di normative specifiche.

L'autrice affronta inoltre una questione giuridica centrale: se il software possa essere considerato a tutti gli effetti un prodotto. Secondo l'analisi, tale interpretazione sarebbe sia giuridicamente praticabile sia auspicabile dal punto di vista sociale, poiche' consentirebbe alle persone danneggiate di ottenere forme di tutela e allo stesso tempo spingerebbe le aziende a incorporare criteri di sicurezza fin dalla fase di progettazione.

Il limite delle tutele volontarie e il futuro della salute mentale

Alcune imprese del settore hanno gia' introdotto autonomamente limitazioni e sistemi di protezione dopo essere state coinvolte in controversie legali. Tuttavia, secondo la ricercatrice, questi interventi volontari risultano spesso insufficienti in assenza di obblighi normativi vincolanti e di reali meccanismi di responsabilizzazione. Il lavoro sottolinea che la sfida consiste nel trovare un equilibrio tra innovazione e tutela degli utenti. I chatbot conversazionali possono infatti offrire benefici significativi, soprattutto per chi soffre di isolamento sociale o ha difficolta' ad accedere a forme tradizionali di supporto. Allo stesso tempo, pero', la loro capacita' di influenzare emozioni, comportamenti e decisioni rende necessario un livello di controllo piu' elevato rispetto a quello applicato a molti altri software. Secondo Gordon-Tapiero, l'applicazione della responsabilita' per prodotto difettoso potrebbe rappresentare uno strumento efficace per garantire che gli assistenti virtuali restino strumenti di supporto e non si trasformino in meccanismi di manipolazione progettati per massimizzare profitto e dipendenza. L'obiettivo finale, conclude l'autrice, e' assicurare che lo sviluppo dell'intelligenza artificiale proceda in modo compatibile con la protezione della salute mentale e dei direitos fondamentali degli utenti.