OpenAI ha pubblicato il suo Child Safety Blueprint per rafforzare gli sforzi di protezione dell’infanzia negli Stati Uniti in mezzo alle crescenti preoccupazioni sullo sfruttamento minorile legato all’intelligenza artificiale. Il progetto mira a migliorare il rilevamento, la segnalazione e l’indagine sullo sfruttamento minorile consentito dall’intelligenza artificiale.
La Internet Watch Foundation (IWF) ha segnalato oltre 8.000 casi di contenuti di abusi sessuali su minori generati dall’intelligenza artificiale nella prima metà del 2025, con un aumento del 14% rispetto all’anno precedente. I criminali utilizzano sempre più spesso strumenti di intelligenza artificiale per creare false immagini esplicite di bambini a scopo di sestorsione finanziaria e per generare messaggi di adescamento convincenti.
Questa iniziativa risponde a un attento esame da parte di politici, educatori e difensori della sicurezza dei bambini, in particolare a seguito di incidenti in cui giovani individui sono morti per suicidio dopo aver interagito con i chatbot di intelligenza artificiale. A novembre, il Social Media Victims Law Center e il Tech Justice Law Project hanno intentato sette cause legali contro OpenAI in California. Queste cause sostengono il rilascio prematuro di GPT-4o, sostenendo che la sua natura psicologicamente manipolativa ha contribuito a morti ingiuste e gravi crisi di salute mentale.
Il Child Safety Blueprint è stato sviluppato insieme al National Center for Missing and Exploited Children (NCMEC) e alla Attorney General Alliance, incorporando il feedback di funzionari tra cui il procuratore generale della Carolina del Nord Jeff Jackson e il procuratore generale dello Utah Derek Brown. Il progetto sottolinea tre aree principali: aggiornare la legislazione per tenere conto dei materiali di abuso generati dall’intelligenza artificiale, migliorare i meccanismi di segnalazione per le forze dell’ordine e incorporare garanzie preventive nei sistemi di intelligenza artificiale.
OpenAI afferma che il suo obiettivo è rilevare potenziali minacce in modo più efficace e garantire che le informazioni utilizzabili vengano comunicate agli investigatori. Questo progetto si basa su iniziative precedenti, comprese le linee guida per le interazioni degli utenti di età inferiore ai 18 anni, che vietano la generazione di contenuti inappropriati e l’offerta di consigli che potrebbero aiutare a nascondere comportamenti non sicuri agli operatori sanitari. OpenAI ha anche rilasciato un progetto di sicurezza per gli adolescenti in India.
