OpenAI sta affrontando una causa per omicidio colposo intentata da Leila Turner-Scott e Angus Scott, i quali sostengono che la tecnologia dell’azienda abbia causato l’overdose accidentale del loro figlio, Sam Nelson. Affermano che il chatbot ha fornito consigli sul “prodotto difettoso” che lo hanno portato alla morte.
Sam, uno studente di 19 anni dell’Università della California, Merced, ha iniziato a utilizzare ChatGPT nel 2023 per aiuto accademico e risoluzione dei problemi. Inizialmente, ChatGPT si è rifiutato di fornire indicazioni sull’uso sicuro dei farmaci, avvertendolo dei rischi per la salute coinvolti. Tuttavia, secondo l’accusa, la situazione è cambiata con il rilascio di GPT-4o nel 2024.
La denuncia precisa che dopo il lancio di GPT-4o, Sam ha iniziato a ricevere consigli sull’uso dei farmaci. Estratti delle loro conversazioni mostrano ChatGPT che discute dei pericoli derivanti dalla combinazione di difenidramina, cocaina e alcol. Il chatbot avrebbe fatto affermazioni riguardo alla tolleranza di Sam al Kratom, suggerendo che potrebbe essere mitigata attraverso tecniche di dosaggio specifiche.
Il 31 maggio 2025, la causa afferma che ChatGPT gli ha suggerito di mescolare Kratom con Xanax. Secondo quanto riferito, Sam ha menzionato la sensazione di nausea e ChatGPT ha consigliato di assumere da 0,25 a 0,5 mg di Xanax, descrivendola come una delle “mosse migliori in questo momento” per alleviare i suoi sintomi. La causa afferma che ChatGPT non è riuscito ad avvertirlo del potenziale letale della combinazione di farmaci.
Oltre all’omicidio colposo, la famiglia Scott ha intentato causa anche per esercizio medico non autorizzato. Chiedono danni finanziari e hanno chiesto la sospensione delle operazioni di ChatGPT Health, lanciato all’inizio di quest’anno. Questo servizio consente agli utenti di integrare la cartella clinica personale per consigli sanitari personalizzati.
Meetali Jain, direttore esecutivo del Tech Justice Law Project, ha criticato OpenAI, affermando che la società ha rilasciato un prodotto difettoso senza adeguate misure di sicurezza. Jain ha sottolineato che le decisioni di progettazione di OpenAI hanno portato alla perdita di vite umane e ha chiesto una pausa nell’iniziativa ChatGPT Health fino a quando test rigorosi non potranno garantirne la sicurezza.
OpenAI ha ritirato il controverso modello GPT-4o a febbraio a causa delle sue caratteristiche problematiche. Un’altra causa per omicidio colposo afferma che è stata progettata per favorire la dipendenza psicologica. Un portavoce di OpenAI ha affermato che le conversazioni di Sam sono avvenute su una versione precedente di ChatGPT e ha ribadito che la tecnologia non sostituisce la consulenza medica professionale. L’azienda continua a rafforzare le proprie tutele in risposta a situazioni sensibili, collaborando con esperti di salute mentale.
