OpenAI ha introdotto una funzione di “previsione dell'età” per ChatGPT per identificare i minori, consentendo adeguate restrizioni sui contenuti nelle loro conversazioni. Sono aumentate le critiche riguardo all’impatto dell’IA sui giovani. Il ChatGPT di OpenAI è stato collegato ai suicidi di adolescenti. Il chatbot è stato anche criticato per aver affrontato argomenti sessuali con utenti giovani. Nello specifico, ad aprile, la società ha riconosciuto un bug che consentiva al suo chatbot di generare contenuti erotici per utenti sotto i 18 anni. OpenAI ha affrontato il problema degli utenti minorenni. La nuova funzionalità di “previsione dell’età” integra le protezioni esistenti. Questa funzione utilizza un algoritmo AI per analizzare “segnali comportamentali e a livello di account” dagli account utente per rilevare utenti giovani, come dettagliato in un post sul blog aziendale di martedì. Questi “segnali” comprendono l'età dichiarata dell'utente, la longevità dell'account e le ore di attività tipiche. OpenAI attualmente utilizza filtri dei contenuti per escludere discussioni su contenuti sessuali, violenza e altri argomenti ritenuti problematici per gli utenti di età inferiore a 18 anni. Se il meccanismo di previsione dell'età identifica un account come appartenente a un minore, questi filtri vengono applicati automaticamente. Gli utenti erroneamente classificati come minorenni possono ripristinare lo stato del proprio account. Possono inviare un selfie al partner di verifica dell'identità di OpenAI, Persona, per la verifica dell'età.
