OpenAI ha approvato il Kids Online Safety Act (KOSA) come parte del suo impegno a stabilire “regole specifiche per l’intelligenza artificiale” per la sicurezza dei bambini. Questa approvazione coincide con il passaggio di KOSA al Senato nel 2024; il disegno di legge è stato introdotto per la prima volta nel 2022.
KOSA impone alle società di social media e alle piattaforme online di rafforzare la protezione dei bambini. La versione attuale richiede che le app dei social media consentano ai minori di disattivare le funzionalità “che creano dipendenza” e le raccomandazioni algoritmiche. Le piattaforme online avranno anche il “dovere di diligenza” per affrontare i contenuti dannosi legati ai disturbi alimentari, al suicidio e allo sfruttamento sessuale.
Anche altre aziende tecnologiche, tra cui Apple, Microsoft, Snap e X, hanno espresso sostegno a KOSA. Al contrario, NetChoice, un gruppo commerciale con membri come Meta, si oppone al disegno di legge, affermando che potrebbe portare alla censura senza migliorare la sicurezza dei bambini. Anche organizzazioni per la privacy e i diritti digitali come la Electronic Frontier Foundation hanno espresso opposizione a KOSA.
OpenAI ha affermato che KOSA è “complementare” alle misure di sicurezza già in atto. Chris Lehane, Chief Global Affairs Officer, ha sottolineato l’importanza di tutele più forti, sottolineando: “Non possiamo ripetere gli errori commessi durante l’ascesa dei social media, quando non sono state messe in atto tutele più forti per gli adolescenti finché le piattaforme non erano già profondamente radicate nelle vite dei giovani”.
Attualmente, OpenAI deve affrontare numerose cause legali per presunte carenze nella sicurezza relative a ChatGPT. Una causa coinvolge una famiglia che rivendica una morte ingiusta dopo che un adolescente ha discusso di piani suicidi con il chatbot. Un’altra causa sostiene che un adolescente abbia accidentalmente avuto un’overdose di farmaci a causa della scarsa consulenza medica ricevuta da ChatGPT.
