Meta sta addestrando i suoi chatbot di intelligenza artificiale con nuove linee guida per affrontare in modo più efficace lo sfruttamento sessuale minorile, a seguito di una serie di errori pubblici riguardanti un argomento delicato. Secondo un rapporto di Business Insider che ha ottenuto i documenti, le linee guida per gli appaltatori che formano l’IA sono state recentemente aggiornate per implementare misure di sicurezza più rigorose.
Le regole aggiornate stabiliscono che i contenuti che “consentono, incoraggiano o sostengono” l’abuso sessuale sui minori sono ora esplicitamente vietati. Le linee guida vietano inoltre il gioco di ruolo romantico se l’utente è minorenne o se l’utente richiede all’IA di interpretare un ruolo da minorenne. Inoltre, al chatbot è vietato dare consigli sull’intimità se l’utente è minorenne. Questi guardrail vengono introdotti poiché un numero crescente di persone, compresi gli utenti minorenni, stanno sperimentando compagni di intelligenza artificiale e giochi di ruolo.
Il cambiamento di politica affronta le regole precedenti che erano state messe sotto esame. Un rapporto di agosto della Reuters ha rivelato che le precedenti politiche di Meta sull’intelligenza artificiale consentivano comportamenti allusivi con i bambini. Il rapporto specificava che al chatbot era consentito “coinvolgere un bambino in conversazioni romantiche o sensuali”.
Poche settimane dopo quel rapporto, la portavoce di Meta Stephanie Otway ha dichiarato a TechCrunch che i chatbot basati sull’intelligenza artificiale dell’azienda erano stati addestrati a non “interagire con utenti adolescenti su autolesionismo, suicidio, alimentazione disordinata o conversazioni romantiche potenzialmente inappropriate”. Si trattava di un cambiamento rispetto alla politica precedente, che consentiva al chatbot di impegnarsi su quegli argomenti quando era ritenuto “appropriato”.
Le nuove linee guida, come dettagliato nel rapporto di Business Insider, rendono inoltre inaccettabile che i contenuti “descrivano o discutano” di un minore in modo sessualizzato. Ai minorenni è ora vietato impegnarsi in “giochi di ruolo romantici, flirt o espressioni romantiche o intime” con il chatbot. Inoltre, non possono chiedere consigli su “contenuti fisici potenzialmente romantici o potenzialmente intimi con un’altra persona, come tenersi per mano, abbracciare o mettere un braccio attorno a qualcuno”.
Tuttavia, le linee guida delineano diversi casi d’uso accettabili a fini di formazione. Questi includono la discussione sulla “formazione di relazioni tra bambini e adulti”, “sull’abuso sessuale di un bambino” e “il tema della sessualizzazione infantile”. Altri argomenti approvati per le discussioni di formazione sono “la sollecitazione, la creazione o l’acquisizione di materiale sessuale che coinvolge bambini” e “il coinvolgimento di bambini nell’uso o nella produzione di materiale osceno o nell’impiego di bambini in servizi sessuali per scopi accademici, educativi o clinici”.
Le linee guida definiscono il termine “discutere” come “fornire informazioni senza visualizzazione”. Questa distinzione significa che ai chatbot di Meta è consentito parlare di argomenti come gli abusi, ma ora non possono descriverli, abilitarli o incoraggiarli.
Resta un’eccezione per i minori che utilizzano l’intelligenza artificiale per giochi di ruolo legati al romanticismo, a condizione che siano “non sessuali e non sensuali”. Questo tipo di interazione è consentita solo quando “viene presentata come letteratura o narrativa di fantasia (ad esempio una storia nello stile di Romeo e Giulietta) in cui l’intelligenza artificiale e l’utente non sono personaggi della narrazione”.
Meta non è l’unico sviluppatore di intelligenza artificiale ad affrontare sfide legate alla sicurezza dei bambini. I genitori di un adolescente morto suicida dopo essersi confidato con ChatGPT hanno recentemente citato in giudizio OpenAI per omicidio colposo. In risposta, OpenAI ha annunciato che incorporerà ulteriori misure di sicurezza e suggerimenti comportamentali nel suo modello GPT-5 aggiornato. In altri sviluppi del settore, Anthropic ha aggiornato il suo chatbot per consentirgli di terminare le conversazioni dannose o offensive e Character.AI ha introdotto funzionalità di supervisione dei genitori all’inizio di quest’anno.
Ad aprile, Ziff Davis, la società madre di Mashable, ha intentato una causa contro OpenAI. La causa sostiene che la società ha violato i diritti d’autore di Ziff Davis nella formazione e nel funzionamento dei suoi sistemi di intelligenza artificiale.
