AGI - Una nuova ricerca pubblicata sulla rivista Frontiers in Psychology rivela come i gruppi estremisti stiano sfruttando la popolarità dei videogiochi per reclutare e radicalizzare gli utenti facilmente impressionabili. Lo studio dimostra che le piattaforme adiacenti al gaming, che consentono agli utenti di chattare e trasmettere in streaming live mentre giocano, vengono utilizzate come “parchi giochi digitali” per attività estremiste e che i giocatori di videogiochi vengono deliberatamente “incanalati” dagli estremisti dalle principali piattaforme di social media a questi siti, in parte a causa delle difficoltà incontrate nel moderarli.
La ricerca è stata condotta dal dott. William Allchorn e dalla dott.ssa Elisa Orofino, ricercatori senior presso l’International Policing and Public Protection Research Institute (IPPPRI) dell’Anglia Ruskin University, e comprende interviste con moderatori di contenuti della piattaforma, esperti del settore tecnologico e soggetti coinvolti nella prevenzione e nel contrasto dell’estremismo violento. Lo studio ha rilevato che l’estremismo di estrema destra è l’ideologia più diffusa su queste piattaforme adiacenti al gaming. Tra queste, contenuti che promuovono la supremazia bianca, il neonazismo e l’antisemitismo, spesso accompagnati da misoginia, razzismo, omofobia e teorie del complotto, inclusi riferimenti a QAnon. Anche l’estremismo islamista è stato segnalato, seppur meno frequentemente, insieme a materiale “estremista” come la glorificazione delle sparatorie nelle scuole: tutti contenuti che violano i termini di servizio delle piattaforme più diffuse ma che spesso sfuggono al rilevamento.
Lo studio spiega che i titoli di gioco iper-maschili, come gli sparatutto in prima persona, esercitano un fascino particolare sugli estremisti e sottolinea come la natura unica del gioco online unisca sconosciuti con interessi comuni. Dopo il contatto iniziale, avviene il funneling, ovvero l’instradamento delle interazioni verso piattaforme di gioco meno regolamentate, creando un ambiente in cui gli estremisti possono socializzare, condividere propaganda e reclutare in modo subdolo. Un intervistato nello studio ha spiegato come potrebbe iniziare il grooming: “È lì che avviene il matchmaking. È lì che si può instaurare rapidamente un rapporto con le persone. Ma è questo che si sposta molto rapidamente su piattaforme adiacenti, dove c’è meno monitoraggio”.
Una preoccupazione ricorrente tra i partecipanti era il pericolo che gli utenti più giovani cadessero sotto l’influenza di influencer estremisti, che combinavano lo streaming live del gioco con narrazioni estremiste. I partecipanti hanno sottolineato che le forze dell’ordine devono comprendere meglio il funzionamento di queste piattaforme e delle loro sottoculture e hanno inoltre sottolineato l’importanza di educare genitori, insegnanti e bambini sui rischi della radicalizzazione online. I moderatori che hanno preso parte allo studio hanno espresso frustrazione per le politiche di applicazione incoerenti sulle loro piattaforme e per l’onere di decidere se i contenuti o gli utenti debbano essere segnalati alle forze dell’ordine locali.
AGI - La chat di gioco non è moderata, ma i moderatori segnalano comunque di essere sopraffatti dal volume e dalla complessità dei contenuti dannosi, tra cui l’uso di simboli nascosti spesso impiegati per aggirare le parole vietate. Gli strumenti di intelligenza artificiale vengono utilizzati per supportare la moderazione, ma hanno difficoltà a interpretare i meme o quando il linguaggio è ambiguo o sarcastico. Frasi come “Ti ucciderò” possono essere comuni nel gameplay, ma difficili da interpretare nel contesto per i sistemi automatizzati.
Il coautore dello studio, William Allchorn, ricercatore senior presso l’Anglia Ruskin University (ARU), ha affermato: “Queste piattaforme adiacenti al gioco offrono agli estremisti un accesso diretto a un pubblico vasto, spesso giovane e facilmente influenzabile, e sono diventate uno strumento chiave per il reclutamento degli estremisti. “Nell’ultimo decennio, le piattaforme dei social media hanno attirato la maggior parte dell’attenzione dei legislatori e degli enti regolatori, ma sono passate in gran parte inosservate, diventando al contempo parchi giochi digitali sfruttati dagli estremisti. “La natura della radicalizzazione e della diffusione di contenuti estremisti non è limitata a una singola piattaforma e la nostra ricerca ha individuato una diffusa mancanza di strumenti efficaci di rilevamento e segnalazione. Molti utenti non sanno come segnalare contenuti estremisti e, anche quando lo fanno, spesso hanno la sensazione che le loro preoccupazioni non vengano prese sul serio. Rafforzare i sistemi di moderazione, sia basati sull’intelligenza artificiale che su quella umana, è essenziale, così come aggiornare le policy della piattaforma per affrontare i contenuti dannosi ma tecnicamente legittimi. Un’azione decisa funziona e le piattaforme possono fare di più per contribuire a frenare la diffusione dell’estremismo.