OpenAI ha rilasciato lunedì nuovi dati che descrivono in dettaglio la misura in cui gli utenti discutono di problemi di salute mentale con ChatGPT. La società ha riferito che lo 0,15% dei suoi utenti attivi settimanali partecipa a conversazioni contenenti indicatori espliciti di potenziale pianificazione o intenzione suicidaria. Con oltre 800 milioni di utenti attivi settimanali, questa cifra equivale a oltre un milione di persone ogni settimana.
I dati indicano anche che una percentuale simile di utenti mostra livelli elevati di attaccamento emotivo a ChatGPT. Inoltre, centinaia di migliaia di utenti mostrano segni di psicosi o mania nelle loro interazioni settimanali con il chatbot.
OpenAI ha descritto queste conversazioni come estremamente rare e difficili da misurare con precisione. Nonostante la loro rarità, l’azienda stima che tali problemi abbiano un impatto su centinaia di migliaia di persone ogni settimana.
Queste informazioni facevano parte di un annuncio più ampio riguardante le iniziative di OpenAI per migliorare la gestione da parte di ChatGPT delle interazioni degli utenti legate alla salute mentale. La società ha dichiarato che i suoi recenti sviluppi hanno comportato consultazioni con più di 170 esperti di salute mentale. Questi medici hanno notato che l’ultima versione di ChatGPT risponde in modo più appropriato e coerente rispetto alle iterazioni precedenti.
Rapporti recenti hanno evidenziato i potenziali rischi dei chatbot IA per gli utenti che affrontano problemi di salute mentale. Gli studi hanno dimostrato che i chatbot possono guidare gli utenti verso schemi deliranti rafforzando convinzioni dannose attraverso risposte eccessivamente gradevoli.
I problemi di salute mentale in ChatGPT sono emersi come una sfida significativa per OpenAI. L’azienda deve affrontare una causa da parte dei genitori di un ragazzo di 16 anni che ha condiviso pensieri suicidi con il chatbot nelle settimane prima della sua morte. I procuratori generali della California e del Delaware hanno lanciato avvertimenti a OpenAI, sollecitando una maggiore protezione per i giovani utenti. Questi Stati potrebbero potenzialmente ostacolare la prevista ristrutturazione della società.
In un post su X all’inizio di questo mese, il CEO di OpenAI Sam Altman ha dichiarato che la società è stata in grado di mitigare gravi problemi di salute mentale in ChatGPT, senza fornire dettagli. I dati rilasciati lunedì servono come prova a sostegno di questa affermazione, sottolineando anche la portata del problema. Altman ha inoltre annunciato che OpenAI allenterà alcune restrizioni, incluso consentire agli utenti adulti di impegnarsi in conversazioni erotiche con il chatbot.
L’annuncio includeva specifiche sui miglioramenti nel modello GPT-5 aggiornato. OpenAI ha affermato che questa versione fornisce risposte desiderabili ai problemi di salute mentale circa il 65% in più rispetto alla versione precedente. Nelle valutazioni incentrate sulle conversazioni suicide, il nuovo GPT-5 ha raggiunto il 91% di conformità con i comportamenti desiderati dall’azienda, rispetto al 77% del precedente modello GPT-5.
OpenAI ha inoltre riferito che l’ultimo GPT-5 mantiene le protezioni in modo più efficace durante le conversazioni prolungate. L’azienda aveva precedentemente individuato punti deboli nelle prestazioni di salvaguardia nel caso di interazioni più lunghe.
Per affrontare ulteriormente queste sfide, OpenAI sta incorporando nuove valutazioni nei suoi test di sicurezza di base per i modelli di intelligenza artificiale. Questi includono parametri di riferimento per la dipendenza emotiva e le emergenze di salute mentale non suicide.
L’azienda ha introdotto ulteriori controlli parentali per gli utenti ChatGPT. Ciò include un sistema di previsione dell’età progettato per identificare automaticamente i bambini e applicare di conseguenza tutele più rigorose.
Nonostante i progressi in GPT-5, OpenAI riconosce che alcune risposte rimangono indesiderabili. L’azienda continua a fornire l’accesso a modelli più vecchi e meno sicuri, come GPT-4o, a milioni di abbonati paganti.
Per assistenza, le persone negli Stati Uniti possono chiamare la National Suicide Prevention Lifeline al numero 1-800-273-8255, inviare un SMS a HOME al 741-741 per la Crisis Text Line o inviare un SMS al 988. Al di fuori degli Stati Uniti, le risorse sono disponibili tramite il database dell’International Association for Suicide Prevention.
