L'allarme di Telefono Azzurro: "L'IA usata per la creazione di immagini pedopornografiche"

AGI - Una delle tendenze emergenti più critiche è l'uso dell'Intelligenza artificiale per creare immagini di abusi: i casi individuati sono aumentati del 380%, passando da 51 nel 2023 a 245 nel 2024.

Il dato emerge Rapporto Annuale 2024 della Internet Watch Foundation (IWF) che ha evidenziato preoccupante aumento del casi di sfruttamento sessuale online del minori e presentato questa mattina dalla Fondazione S.O.S. Telefono Azzurro ETS nel corso dell'evento "Il silenzio non protegge" presso la Sala Polifunzionale della Presidenza del Consiglio dei Ministri.

Il Telefono Azzurro ha lanciato l'allarme: abusi sessuali sui minori sono in crescita soprattutto nel digitale. Nell'Unione Europea si stima che 1 bambino su 5 abbia subito una qualche forma di violenza sessuale (rapporto Violence against children in the European Union, ottobre 2024).

Nel corso dell'anno, l'organizzazione ha esaminato 424.047 segnalazioni, di cui 291.273, contengono materiale di abuso sessuale. Si tratta del 6% di casi in più rispetto al 2023. Un dato particolarmente allarmante è che il 91% di questo materiale è stato generato dagli stessi minori, spesso manipolati o costretti.

Si è anche riscontrato un marcato aumento delle vittime adolescenti: i contenuti che coinvolgono ragazzi e ragazze tra i 14 e i 17 anni sono cresciuti rispettivamente del 35% e del 67%, evidenziando una maggiore esposizione di questa fascia d'età ai rischi online. I Social Network superano la famiglia come contesto più frequentemente citato nel casi di sfruttamento sessuale.

La diffusione dei contenuti di abuso sessuale creati con l'intelligenza artificiale trova terreno fertile in Europa, dove iI 62% delle pagine web con materiale abusivo è ospitato, con i Paesi Bassi in cima alla lista e la Polonia che ha registrato un preoccupante aumento dell'8.000% nei contenuti ospitati. Questa è una questione che solleva interrogativi importanti sulla gestione dell'intelligenza artificiale generativa e sui suoi rischi.

Il Wall Street Journal ha dimostrato come diversi chatbot di Instagram, Facebook e Whatsapp potrebbero essere in grado di portare avanti conversazioni sessualmente esplicite con i minori. Un caso che dimostra come i sistemi di protezione esistenti siano insufficienti a prevenire scenari dannosi per gli utenti più vulnerabili, ma che soprattutto sottolinea l'urgenza di stabilire standard più rigorosi per l'uso etico e sicuro di queste tecnologie.

Nel 2024, la linea d'ascolto del 114 Emergenza Infanzia, il servizio di pubblica utilità istituto e promosso dal Dipartimento per le Politiche della Famiglia - Presidenza del Consiglio dei Ministri e gestito da Telefono Azzurro, ha gestito 192 casi (di cui 141 offline e 51 online) con motivazioni relative ad Abuso sessuale per una media di circa 16 casi al mese. Si tratta di dati allarmanti e che rappresentano soltanto la punta dell'iceberg. Rispetto al 2023 si rileva un incremento complessivo del +17% di segnalazioni raccolte.

Considerando nello specifico i casi online, i dati mostrano come nel 79,6% dei casi le situazioni riferite sono accadute su Internet, nel 7,4% a casa proprio e nel 5,5% sui social network. Classificando i casi in base alla provenienza geografica emerge come la maggior parte delle richieste d'aiuto sia pervenuta dalla Lombardia (+20,44%), seguita da Lazio (9,49%) ed Emilia-Romagna (9,49%).

Le motivazioni relative ai casi di abusi sessuali online sono: benefit economico (32,7%), CSAM (32,7%), Sexting (14,5%), benefit sessuale (7,3%), Grooming (7,3%), Incitamento alla violenza contro persone/animali o cose (3,6%), Discriminazioni (1,8%).

Roccella: "Attenzione su solitudine dei ragazzi di fronte ai pericoli in ambito digitale"

"L’utilizzo sempre più esteso della Rete da parte degli adolescenti, infatti, accanto al moltiplicare delle opportunità accresce anche le possibilità di accesso al materiale pornografico, i margini di diffusione anche a livello territoriale, le tipologie di reati connesse a questo preoccupante fenomeno. Credo che a questo riguardo la nostra attenzione vada posta prevalentemente sulla solitudine dei nostri ragazzi di fronte ai pericoli, presenti soprattutto in ambito digitale". Ha sottolineato con un messaggio la ministra per le Pari Opportunità e la Famiglia Eugenia Maria Roccella.

"Questa solitudine nasce in parte dalle fragilità relazionali che spesso i minori incontrano, dall’apparente affidabilità di rapporti che si creano facilmente al riparo di uno schermo, dalla frammentazione del tessuto familiare, dalla complessità dell’esercizio della responsabilità da parte dei genitori e più in generale dagli adulti in questo contesto. Perché se è condivisibile l’idea secondo cui la Rete rappresenta spesso il luogo del rischio non calcolato, non possiamo demonizzare un ambiente che è anche ricco di risorse e possibilità - ha aggiunto - Su questo dobbiamo sentirci tutti responsabilizzati. Ciò su cui bisogna intervenire, allora, non è soltanto la prevenzione dei pericoli, e l’aiuto in caso di necessità – entrambi aspetti fondamentali – ma anche il ripristino di un tessuto fatto di relazioni forti e rassicuranti, di responsabilità famigliari relazionali che forniscano ai ragazzi un orientamento e li preservino dalle solitudini del nostro tempo. Naturalmente molto c’è da fare. E con il mio ministero continueremo ad adoperarci perché i nostri ragazzi non siano lasciati soli”.