Ashley St. Clair, la madre di uno dei figli di Elon Musk, ha intentato una causa contro xAI giovedì. La causa accusa l'azienda di negligenza e di aver inflitto disagio emotivo attraverso il suo strumento di intelligenza artificiale Grok. St. Clair afferma che Grok ha consentito agli utenti di generare foto deepfake di lei in pose sessualmente esplicite, comprese raffigurazioni da bambina in bikini e da adulta in posizioni esplicite. St. Clair aveva informato xAI di questi deepfake illeciti e aveva chiesto che a Grok fosse impedito di creare immagini non consensuali. Secondo la causa, Grok ha risposto confermando che le sue immagini non sarebbero state utilizzate o alterate senza il consenso esplicito in nessuna generazione o risposta futura. Nonostante ciò, xAI avrebbe continuato a consentire agli utenti di produrre immagini di lei più esplicite generate dall'intelligenza artificiale. La causa sostiene inoltre che xAI si è vendicata demonetizzando il suo account X. La causa è stata intentata presso il tribunale dello stato di New York ma trasferita rapidamente al distretto federale meridionale di New York su richiesta di xAI. X e xAI non hanno risposto immediatamente a una richiesta di commento. Nella settimana prima della presentazione della domanda, X ha limitato le funzionalità del bot di risposta @Grok. Questo cambiamento sembrava impedirgli di generare immagini che collocassero in modo non consensuale persone identificabili in costumi da bagno o biancheria intima rivelanti. Al momento della segnalazione, tali funzionalità illimitate erano rimaste attive sull'app Grok autonoma, sul sito web di Grok e sulla scheda Grok su X. I ricercatori hanno riferito che Grok aveva prodotto migliaia di immagini sessualizzate generate dall'intelligenza artificiale all'ora la settimana prima. Molte di queste immagini sono state pubblicate pubblicamente su X. La capacità dello strumento di generare deepfake non consensuali, inclusa la rimozione di vestiti dalle foto caricate e la loro sostituzione con bikini o biancheria intima, ha suscitato settimane di reazioni negative. La creazione e diffusione capillare di queste immagini ha suscitato risposte globali. Diversi governi hanno avviato indagini e ci sono state richieste ai marketplace di app per smartphone di vietare o limitare X. In California, le autorità hanno avviato quella che è stata descritta come un'indagine “Chuck”. Il governatore Gavin Newsom ha pubblicato un post su X, affermando: “la decisione di xAI di creare e ospitare un terreno fertile per i predatori per diffondere deepfake AI sessualmente espliciti non conshatecual, comprese immagini che spogliano digitalmente i bambini, è vile”. La causa di St. Clair descrive la caratteristica di Grok di creare deepfake non consensuali come un difetto di progettazione. Sostiene che la società avrebbe potuto prevederne l'utilizzo per molestare le persone con immagini illegali. La causa afferma che le persone raffigurate, inclusa St. Clair, soffrivano di estrema sofferenza. Accusa xAI di “condotta estrema e oltraggiosa, che supera ogni limite di decenza e assolutamente intollerabile in una società civile”.
Source: Ashley St. Clair fa causa a xAI per i deepfake di Grok
