Instagram ha annunciato che avviserà i genitori se i loro figli adolescenti cercano ripetutamente termini di suicidio o autolesionismo in un breve periodo. Gli avvisi verranno lanciati nelle prossime settimane per i genitori iscritti agli strumenti di supervisione genitoriale della piattaforma. Mentre Instagram blocca già le ricerche di contenuti di suicidio e autolesionismo, la nuova funzionalità aggiunge un livello di notifica per informare i genitori dei ripetuti tentativi. L’azienda mira ad aiutare i genitori a fornire supporto quando vengono a conoscenza di queste ricerche.
Le ricerche che attivano includono frasi che incoraggiano il suicidio o l’autolesionismo, termini che indicano che un adolescente potrebbe essere a rischio e parole come “suicidio” o “autolesionismo”. I genitori riceveranno avvisi via e-mail, SMS o WhatsApp, in base alle informazioni di contatto fornite. Riceveranno anche una notifica in-app contenente risorse per aiutarli ad affrontare le conversazioni con i loro figli adolescenti. Instagram ha dichiarato di aver analizzato il comportamento di ricerca e di aver consultato il suo gruppo consultivo su suicidio e autolesionismo per stabilire la soglia. La soglia richiede alcune ricerche in un breve lasso di tempo e l’azienda ha scelto di peccare per eccesso di cautela. Instagram ha sottolineato che mira a evitare notifiche non necessarie per mantenerne l’efficacia.
L’annuncio coincide con le cause legali in corso contro Meta e altre società tecnologiche per quanto riguarda i danni agli adolescenti. Durante la testimonianza di questa settimana presso il tribunale distrettuale degli Stati Uniti per il distretto settentrionale della California, il capo di Instagram Adam Mosseri ha affrontato domande riguardanti il ritardo nell’implementazione delle funzionalità di sicurezza. I pubblici ministeri in un caso di dipendenza dai social media in corso hanno messo in dubbio specificamente il ritardo di un filtro sulla nudità per i messaggi privati agli adolescenti. Mosseri ha testimoniato nell’ambito di questo contenzioso.
In una causa separata davanti alla Corte Superiore della contea di Los Angeles, è stata rivelata una ricerca interna su Meta. Lo studio ha rilevato che la supervisione e il controllo dei genitori hanno avuto un impatto minimo sull’uso compulsivo dei social media da parte dei bambini. La stessa ricerca ha indicato che i bambini che affrontano eventi di vita stressanti avevano maggiori probabilità di avere difficoltà a regolare l’uso dei social media. La tempistica delle nuove segnalazioni segue questi sviluppi giuridici e le risultanze interne.
Gli avvisi verranno diffusi la prossima settimana negli Stati Uniti, nel Regno Unito, in Australia e in Canada. Instagram prevede di espandere la funzionalità ad altre regioni entro la fine dell’anno. La società intende anche lanciare notifiche simili quando gli adolescenti tentano di discutere di suicidio o autolesionismo con l’intelligenza artificiale dell’app.
