L’Indonesia ha revocato a determinate condizioni il divieto del chatbot Grok di xAI, a seguito di azioni simili da parte di Malesia e Filippine. I paesi del sud-est asiatico hanno imposto i divieti dopo che Grok ha generato immagini sessualizzate e non consensuali su X, inclusi deepfake di donne e minori reali.
Analisi separate del New York Times e del Center for Countering Digital Hate hanno scoperto che Grok ha prodotto almeno 1,8 milioni di immagini di donne tra la fine di dicembre e gennaio.
Il Ministero delle Comunicazioni e degli Affari Digitali dell’Indonesia ha annunciato la decisione dopo aver ricevuto una lettera da X “che delinea passi concreti per il miglioramento del servizio e la prevenzione degli abusi”. Alexander Sabar, direttore generale del ministero per il monitoraggio dello spazio digitale, ha affermato che il divieto è stato revocato solo “condizionatamente” e potrebbe essere ripristinato se “vengono scoperte ulteriori violazioni”.
La Malesia e le Filippine hanno revocato i divieti il 23 gennaio.
Negli Stati Uniti, l’ufficio del procuratore generale della California Rob Bonta ha avviato un’indagine su xAI e ha emesso una lettera di cessazione e desistenza chiedendo un’azione immediata per interrompere la produzione delle immagini.
xAI ha limitato la funzionalità di generazione di immagini di Grok agli abbonati paganti su X. Elon Musk, CEO di xAI, ha dichiarato: “Chiunque utilizzi Grok per creare contenuti illegali subirà le stesse conseguenze come se caricasse contenuti illegali”. Ha aggiunto che “non era a conoscenza di alcuna immagine di minorenni nudi generata da Grok”.
