Meta ha introdotto una nuova funzionalità che consente ai genitori di monitorare gli argomenti discussi dai loro figli adolescenti con l’assistente AI dell’azienda attraverso uno strumento di supervisione genitoriale di Teen Account. L’annuncio è stato dato giovedì tramite un post sul blog.
Le informazioni saranno accessibili tramite una scheda Approfondimenti all’interno dello strumento di supervisione su Instagram, Facebook e Messenger. Questa funzionalità classifica argomenti più ampi, tra cui scuola, intrattenimento, scrittura, salute e benessere, con ulteriori dettagli limitati disponibili facendo clic su ciascuna categoria.
La categoria salute e benessere può comprendere aree quali fitness, salute fisica e salute mentale. Gli approfondimenti saranno disponibili per le conversazioni negli ultimi sette giorni. Questa caratteristica fa parte della risposta di Meta all’intensificato controllo legale e dei media riguardo alla sicurezza dei bambini. La società ha recentemente perso due processi fondamentali riguardanti la tutela della sicurezza dei bambini e prevede di presentare ricorso contro entrambi i verdetti.
Una causa nel New Mexico ha rivelato che la leadership di Meta era consapevole dei rischi associati ai suoi compagni di intelligenza artificiale potenzialmente coinvolti in interazioni inappropriate con minori. In seguito alle segnalazioni dell’anno scorso di personaggi IA che interagivano con adolescenti in discussioni riguardanti, Meta ha limitato l’accesso a questi personaggi.
Oltre a ciò, un portavoce di Meta ha confermato che i personaggi IA sono attualmente sospesi per gli adolescenti mentre sono in fase di sviluppo ulteriori controlli parentali. L’azienda ha inoltre collaborato con il Cyberbullying Research Center per stabilire spunti di conversazione sull’uso dei chatbot basati sull’intelligenza artificiale.
Inoltre, Meta ha formato un Consiglio di esperti sul benessere dell’intelligenza artificiale, che comprende esperti di istituzioni come il Consiglio nazionale per la prevenzione del suicidio e l’Università del Michigan, per fornire input continui sulle esperienze di intelligenza artificiale per gli adolescenti.
Josh Golin, direttore esecutivo dell’organizzazione no-profit Fairplay, ha criticato la nuova funzionalità di supervisione, affermando che pone l’onere del monitoraggio dell’attività online sui genitori piuttosto che migliorare la sicurezza del prodotto. I test indipendenti di Fairplay sugli account dei teenager di Meta hanno indicato che le misure di sicurezza sono inefficaci.
Golin ha espresso preoccupazione per il fatto che la nuova funzionalità non affronti il problema principale dei chatbot di Meta che potenzialmente favoriscono attaccamenti emotivi malsani negli adolescenti. I continui aggiustamenti dell’azienda segnalano un tentativo di navigare nel panorama critico della sicurezza dei bambini e delle interazioni online.
