Mentre i politici e i titoli dei media statunitensi si sono storicamente concentrati su piattaforme come Instagram, Facebook, YouTube, TikTok e X, si sta verificando un cambiamento significativo poiché i giovani utilizzano sempre più i giochi e le piattaforme adiacenti ai giochi per l’interazione sociale. Queste conversazioni, che avvengono su servizi come Discord, Roblox e Steam, sono generalmente anonime e in gran parte nascoste alla vista del pubblico.
Queste piattaforme, originariamente progettate per connettere i giocatori, si sono evolute in hub primari per il discorso sociale e l’interazione autentica, in particolare perché le applicazioni tradizionali danno priorità ai contenuti progettati per la viralità. Questa evoluzione ha portato a un nuovo esame, concentrandosi su come questi forum chiusi possano ospitare odio e sfruttamento, problemi che spesso rimangono nascosti finché non si manifestano in danni nel mondo reale.
Le principali app dei social media sono strutturate per elevare e amplificare i contenuti pubblicamente, il che le rende strumenti efficaci per diffondere ideologie, voci o disinformazione. Tuttavia, molte di queste idee mettono radici inizialmente in forum più piccoli e privati sulle piattaforme di gioco. I gruppi estremisti che sono stati rimossi dai servizi tradizionali hanno di conseguenza trovato nuove case in questi spazi.
A differenza delle app rivolte al pubblico, gli utenti delle piattaforme di gioco sono più abituati a operare con pseudonimi. Questa pratica di utilizzare pseudo-identità facilita lo scambio anonimo di idee radicali e tabù.
Mariana Olaizola Rosenblat, consulente politico in materia di tecnologia e diritto presso la NYU Stern, spiega che l’architettura stessa di queste piattaforme incentrate sui giochi è un fattore chiave nella proliferazione di contenuti pericolosi. “Estremisti e predatori si recano in questi spazi di gioco per trovare giovani altamente coinvolti e sensibili, molti dei quali desiderano connettersi”, afferma.
Le chat room più piccole e private, dove spesso si sviluppano conversazioni dannose, sono in genere isolate dagli osservatori esterni. “La maggior parte dei ricercatori è sostanzialmente cieca di fronte a tutto ciò. Non è possibile entrare in queste stanze”, osserva Rosenblat. Gli utenti sfruttano anche il contesto di gioco, utilizzando il “gamespeak” per mascherare concetti estremisti o pericolosi, che offuscano la distinzione tra gioco di ruolo e intenti nel mondo reale. Sebbene le piattaforme stesse abbiano accesso tecnico a questi contenuti, l’enorme volume rende il monitoraggio una sfida significativa. Rosenblat osserva che la maggior parte non ha investito sufficientemente nelle garanzie o nelle risorse di moderazione necessarie per proteggere i giovani utenti.
È importante notare che la maggior parte delle conversazioni su queste piattaforme sono ordinarie. Si va dalle discussioni sui giochi e sulla partecipazione a gruppi di studio ai fandom sportivi e ai forum delle comunità di quartiere. Tuttavia, questi stessi ambienti sono diventati anche terreno fertile per la radicalizzazione e lo sfruttamento, con un numero crescente di incidenti che hanno portato alla luce la questione.
Discord si trova ad affrontare un nuovo esame dopo che il sospettato dell’omicidio di Charlie Kirk sembra aver confessato all’interno di una chat di Discord. La piattaforma è stata utilizzata anche dagli organizzatori del raduno Unite the Right del 2017 a Charlottesville per coordinare la logistica, compresi il car pooling e l’alloggio. In un incidente separato, l’assassino che ha ucciso 10 persone in un quartiere nero di Buffalo nel 2022 ha documentato mesi della sua pianificazione in una chat privata su Discord. Inoltre, un’indagine del 2018 condotta da The Daily Beast ha scoperto centinaia di casi di vendetta porno condivisa sui server Discord.
Roblox, una piattaforma rivolta direttamente ai bambini, ha attirato aspre critiche per i contenuti sessuali, predatori ed estremisti presenti sul suo servizio. La società sta attualmente affrontando molteplici cause legali. Una causa, intentata dallo stato della Louisiana, sostiene che Roblox non è riuscito a proteggere i bambini. Un altro è stato presentato da una famiglia dell’Iowa dopo che la loro figlia di 13 anni è stata rapita, trafficata e violentata da un predatore che aveva incontrato sulla piattaforma.
Un portavoce di Roblox ha rilasciato una dichiarazione in merito alle sue pratiche di sicurezza:
“Anche se non possiamo commentare i reclami sollevati in contenzioso, noi di Roblox ci impegniamo a mantenerci ai più alti standard di sicurezza. Investiamo risorse significative in tecnologie di sicurezza avanzate, inclusa una combinazione di team di apprendimento automatico e moderazione umana che lavorano 24 ore su 24, 7 giorni su 7 per rilevare e affrontare contenuti e comportamenti inappropriati.”
La sparatoria a Buffalo del 2022 è stata trasmessa in live streaming su Twitch, la piattaforma di gioco di proprietà di Amazon. Twitch ha condannato l’attacco, ha rimosso rapidamente il video e ha dichiarato che stava lavorando a stretto contatto con le forze dell’ordine per indagare sull’incidente.
Nel 2021, i ricercatori hanno scoperto che la piattaforma Steam era diventata uno spazio di rete per ideologie di estrema destra, ospitando gruppi che promuovevano organizzazioni neonaziste.
Dopo l’uccisione di Charlie Kirk, le piattaforme di gioco stanno ricevendo maggiore attenzione da parte dei politici statunitensi. Il presidente della House Oversight James Comer (R-Ky.) ha chiesto ai CEO di Discord, Steam, Twitch e Reddit di testimoniare davanti al Congresso l’8 ottobre sulla questione della radicalizzazione degli utenti sulle loro piattaforme.
