Il CEO di OpenAI, Sam Altman, ha annunciato martedì nuove politiche per gli utenti volte a migliorare la sicurezza per gli utenti di ChatGPT di età inferiore ai 18 anni, segnando un cambiamento significativo nel modo in cui il chatbot AI interagisce con i minori. Le modifiche danno priorità alla sicurezza rispetto alla privacy e alla libertà degli adolescenti, riflettendo il riconoscimento da parte di OpenAI della natura potente ma potenzialmente dannosa della tecnologia.
“Diamo priorità alla sicurezza prima della privacy e della libertà per gli adolescenti”, afferma il post di Altman. “Si tratta di una tecnologia nuova e potente e crediamo che i minori abbiano bisogno di una protezione significativa”. Le politiche introducono restrizioni mirate sulle conversazioni che coinvolgono argomenti sessuali o autolesionismo. Nello specifico, ChatGPT sarà addestrato per evitare “chiacchiere civettuole” con utenti minorenni e guardrail rafforzati regoleranno le discussioni sul suicidio. Nei casi in cui un minore sia coinvolto in scenari suicidi, il sistema tenterà di avvisare i suoi genitori; nei casi più gravi, può coinvolgere le autorità di polizia locali.
Queste misure sono motivate da tragedie del mondo reale e da sfide legali in corso. OpenAI si sta attualmente difendendo da una causa per omicidio colposo intentata dai genitori di Adam Raine, un adolescente morto suicida dopo mesi di interazioni con ChatGPT. Una causa simile prende di mira Character.AI, un altro popolare chatbot per consumatori. Esperti e sostenitori hanno lanciato allarmi sui rischi delle delusioni guidate dall’intelligenza artificiale, soprattutto perché i chatbot si evolvono per supportare conversazioni più prolungate e coinvolgenti, ponendo pericoli particolari per i giovani vulnerabili.
Oltre alla salvaguardia dei contenuti, i genitori che registrano account per minorenni avranno la possibilità di implementare “ore di blackout”, limitando l’accesso durante orari specifici, una funzionalità assente nelle versioni precedenti. Questo strumento di controllo parentale mira a promuovere modelli di utilizzo più sani.
L’annuncio coincide con un’audizione della commissione giudiziaria del Senato intitolata “Esaminare il danno dei chatbot AI”, prevista per lo stesso giorno e avviata dal senatore Josh Hawley (R-MO) in agosto. Il padre di Adam Raine è tra i testimoni chiamati a testimoniare, evidenziando la posta in gioco personale.
L’implementazione della verifica dell’età presenta ostacoli tecnici, come sottolineato da OpenAI in un post sul blog associato. L’azienda sta sviluppando un sistema a lungo termine per determinare con precisione l’età degli utenti, ma in situazioni ambigue tenderà alla cautela applicando regole più rigide. Per affidabilità, OpenAI consiglia di collegare l’account di un adolescente a quello esistente di un genitore, abilitando avvisi diretti ai tutori se viene rilevata una situazione di pericolo.
Altman ha bilanciato queste tutele dei giovani con i valori fondamentali di OpenAI, riaffermando l’impegno per la privacy degli utenti e le ampie libertà per gli adulti. “Ci rendiamo conto che questi principi sono in conflitto”, ha osservato, “e non tutti saranno d’accordo su come stiamo risolvendo quel conflitto”. Questo approccio sottolinea il filo etico che gli sviluppatori di intelligenza artificiale devono affrontare in mezzo a un controllo crescente.
Con l’aumento della consapevolezza degli impatti dell’intelligenza artificiale sulla salute mentale, le risorse rimangono cruciali. Per supporto immediato, contattare la National Suicide Prevention Lifeline al numero 1-800-273-8255, inviare un SMS a HOME al 741-741 o comporre il numero 988. La Crisis Text Line offre assistenza 24 ore su 24 e l’aiuto internazionale è disponibile tramite il database dell’Associazione internazionale per la prevenzione del suicidio.
