I genitori intentano una causa contro la scuola privata dopo uno scandalo con immagini di nudo di studentesse generate dall’intelligenza artificiale. Quando la Lancaster County Day School ha scoperto che uno studente stava creando esplicite immagini deepfake di praticamente tutti i suoi compagni di classe, si è trovata sotto un duro fuoco. C ha cancellato le lezioni, i dirigenti scolastici hanno spinto per la responsabilità e alcuni si sono dimessi.
Lo scandalo è iniziato quando è stata fatta una segnalazione alla scuola “Safe2Say Something” sistema di segnalazione anonima nel novembre 2023. Secondo la polizia, il preside Matt Micciche ha ricevuto questa segnalazione ma ha deciso di non fare nulla al riguardo e ha lasciato che la situazione peggiorasse per diversi mesi. La polizia è stata allertata dello studente accusato di aver creato il contenuto dannoso solo a metà del 2024, quando ha effettuato un arresto. Parte dell’indagine prevedeva il sequestro del telefono dello studente. Dopo che le immagini esplicite generate dall’intelligenza artificiale sono state collegate allo studente, le forze dell’ordine hanno confermato ad agosto che un minore aveva avuto un ruolo.
Dimissioni, proteste e azioni legali seguono lo scandalo deepfake dell’intelligenza artificiale di Lancaster
Le immagini sono diventate così inquietanti per i genitori nel maggio 2024 che sono rimasti sorpresi dal fatto che la scuola non avesse segnalato la questione prima come richiesto ai sensi leggi sulla segnalazione degli abusi sui minori. Ciò ha provocato minacce di azioni legali contro i funzionari scolastici, che hanno presentato una citazione in tribunale chiedendo di dimettersi entro 48 ore o di affrontare una causa. Micciche e la presidente del consiglio scolastico Angela Ang-Alhadeff si sono dimesse a causa del pressione pochi giorni dopo.
La tensione rimase alta e il lunedì successivo le lezioni furono cancellate. Studenti e docenti hanno organizzato una protesta presso la scuola, che accoglie circa 600 studenti dalla scuola materna alle superiori, chiedendo misure più forti per garantire la sicurezza degli studenti. La scuola si è impegnata a sostenere la comunità durante questo periodo.
Quando gli amministratori scolastici si sono dimessi a seguito di scioperi organizzatigli studenti hanno affermato di essere a disagio. L’8 novembre, molte migliaia di studenti delle scuole superiori si sono riuniti e hanno cantato qualcosa come “Ascoltaci. Riconoscici. Ci vediamo.” Hanno sottolineato la necessità di una comunicazione più chiara da parte dei dirigenti scolastici man mano che le crisi si evolvono. Micciche aveva precedentemente sostenuto la protesta, affermando di riconoscere che gli studenti avevano il diritto di sfogare la loro rabbia per la gestione dell’incidente da parte della scuola.
Anche se i dirigenti scolastici si sono dimessi, intendono comunque intraprendere un’azione legale contro i dirigenti scolastici, ha affermato l’avvocato Matthew Faranda-Diedrich. Il Lancaster Country Day ha affermato di aver fornito consulenza agli studenti colpiti e di essersi impegnato a rivedere e aggiornare le procedure di segnalazione e le politiche di sicurezza.
Questo avviene lo scandalo contemporaneamente a un dibattito più ampio su come il quadro giuridico statunitense risponde al tentativo di sfruttamento minorile attraverso l’intelligenza artificiale. Sebbene l’incidente di Lancaster sia inquietante, così com’è, diventa parte di uno schema di incidenti con contenuti espliciti generati dall’intelligenza artificiale che coinvolgono bambini. La legislazione recentemente proposta prevede la criminalizzazione della creazione e distribuzione di tali materiali, con sanzioni severe, comprese multe salate e lunghe reclusioni per reati gravi.
Ma una nuova legge della Pennsylvania, che dovrebbe entrare in vigore a breve, criminalizzerebbe esplicitamente la creazione o la diffusione di materiale pedopornografico generato dall’intelligenza artificiale. Nel frattempo, le autorità stanno reprimendo una crisi simile legata ai deepfake in Corea del Sud. Incluso in ciò è un maggiore monitoraggio delle piattaforme di social media e più sanzioni per la loro violazione mentre il paese lotta con un’epidemia di pornografia deepfake che ha spaventato scuole e comunità in tutto il paese.
Gli sforzi degli Stati Uniti in questo campo impallidiscono se paragonati a quelli di altri paesi. I ricercatori del John Jay College of Criminal Justice sono tra i sostenitori che spingono per responsabilità legali contro le piattaforme digitali che pubblicano contenuti deepfake non consensuali e chiedono mezzi più solidi per proteggere coloro che rischiano di diventare vittime.
Credito immagine: Furkan Demirkaya/IA del flusso
Il post Le proteste studentesche scoppiano dopo che lo scandalo deepfake dell’intelligenza artificiale ha scosso la scuola privata è apparso per la prima volta su TechBriefly.