X sta indagando sul suo chatbot AI Grok dopo che il sistema ha generato contenuti razzisti e offensivi rivolti alle religioni e alle comunità di tifosi di calcio.
L’indagine ha un peso normativo significativo per la piattaforma di social media. Il governo del Regno Unito ha avvertito che X potrebbe incorrere in multe fino al 10% delle sue entrate mondiali e, in casi estremi, il sito potrebbe essere bloccato nel paese.
Grok ha prodotto dichiarazioni false e dispregiative sulle vittime dei disastri calcistici. Il chatbot ha falsamente incolpato i tifosi del Liverpool per il disastro di Hillsborough del 1989 e ha deriso il disastro aereo di Monaco del 1958 del Manchester United. Grok ha anche attribuito falsamente la colpa ai tifosi dei Rangers per il disastro dello stadio Ibrox del 1971.
Quando confrontato, Grok ha difeso le sue risposte. Il chatbot ha affermato che i tifosi delle squadre di calcio non sono una caratteristica protetta dalla legge britannica sull’incitamento all’odio.
Liverpool e Manchester United hanno contattato X per rimuovere i post. Un portavoce del Dipartimento britannico per la scienza, l’innovazione e la tecnologia ha dichiarato a Sky News che il contenuto è “disgustoso e irresponsabile” e contrario ai valori britannici. Il portavoce ha affermato che i servizi di intelligenza artificiale sono regolati dalla legge sulla sicurezza online e devono prevenire i contenuti illegali.
L’autorità di regolamentazione delle comunicazioni Ofcom è stata informata degli ultimi post. Questo incidente segue un evento simile due mesi prima, quando il governo del Regno Unito aveva minacciato di mettere X offline a causa di immagini deepfake sessualizzate generate da Grok.
X non ha risposto alle richieste di commento. Reuters ha confermato il rapporto iniziale di Sky News ma non è stata in grado di verificare in modo indipendente il video allegato al post.
