Roblox ha lanciato una funzione di riformulazione della chat in tempo reale, basata sull’intelligenza artificiale, per sostituire le parole vietate con un linguaggio più rispettoso. Il nuovo sistema sostituisce il filtro precedente della piattaforma, che censurava semplicemente il testo proibito con simboli hash. Roblox ha affermato che il cambiamento mira a evitare che le conversazioni vengano interrotte e difficili da seguire.
La funzione riformula il testo filtrato per rimanere vicino all’intento originale dell’utente pur mantenendo la civiltà. Ad esempio, il messaggio “Sbrigati TF!” ora apparirà come “Sbrigati!” invece di “####”. L’azienda avvisa tutti gli utenti in una chat quando un messaggio è stato riformulato.
“La riformulazione in tempo reale aiuta a mantenere il gameplay e le conversazioni sulla buona strada, guidando il linguaggio verso ciò che è appropriato”, ha affermato Rajiv Bhatia, vicepresidente di User and Discovery Product presso Roblox. “Questo approccio riduce gli attriti nella chat mantenendo gli standard che aiutano a mantenere civile la nostra comunità.”
Lo strumento di riformulazione supporta tutte le lingue disponibili tramite gli strumenti di traduzione automatica di Roblox. Roblox sta inoltre aggiornando il suo sistema di filtraggio del testo per rilevare leetspeak e altri tentativi sofisticati di aggirare i filtri. La società ha riferito che questi aggiornamenti hanno ridotto di 20 volte i falsi negativi durante la condivisione o la richiesta di informazioni personali.
Questo annuncio segue l’introduzione da parte di Roblox della verifica facciale obbligatoria per l’accesso alla chat. Il requisito di verifica è stato implementato a seguito di azioni legali da parte dei procuratori generali di Texas, Kentucky e Louisiana riguardanti i rischi per la sicurezza dei bambini. Le azioni legali sono state innescate da segnalazioni di giovani utenti che affrontavano pericoli come adescamento e contenuti espliciti sulla piattaforma.
