Secondo un rapporto di WIRED, centinaia di appaltatori che lavorano per Meta sono stati incaricati di fingere di essere bambini e di testare i chatbot della concorrenza, tra cui Gemini di Google e ChatGPT di OpenAI, inviando messaggi relativi a suicidio, sesso e droga. Gli appaltatori, con sede in Kenya, hanno utilizzato immagini come pillole, coltelli, cappi e un diagramma medico di una procedura ginecologica durante i test. Questi suggerimenti miravano a spingere i sistemi di intelligenza artificiale rivali al limite e a identificare i problemi di sicurezza nel modo in cui i chatbot rispondono ai minori che cercano contenuti pericolosi.
Questa rivelazione evidenzia le preoccupazioni attuali su come le aziende tecnologiche salvaguardano i loro prodotti di intelligenza artificiale, soprattutto in relazione ai bambini. I chatbot di Meta sono stati criticati a causa di un tasso di fallimento del 66,8% nel bloccare i contenuti di sfruttamento sessuale minorile e di un tasso di fallimento del 54,8% nell’affrontare le richieste di suicidio e autolesionismo durante una valutazione interna del team rosso. Alla luce delle pressioni legali, la società ha sospeso l’accesso ai personaggi associati all’intelligenza artificiale per adolescenti nel gennaio 2026.
Precedenti rapporti di un organo di stampa svedese indicavano che gli appaltatori in Kenya erano specificamente concentrati sul modo in cui i concorrenti gestiscono conversazioni sensibili con utenti che dichiarano di essere minorenni. Ciò avviene mentre Meta accelera la sua transizione dalla moderazione dei contenuti umani a un approccio incentrato sull’intelligenza artificiale. Entro la fine del 2026, Meta prevede di sostituire oltre il 90% della propria forza lavoro dedicata alla revisione dei contenuti con modelli linguistici di grandi dimensioni. Quest’anno, l’azienda ha già trasferito circa il 50% delle richieste di revisione umana all’intelligenza artificiale, sostenendo che questi sistemi commettono il 13% in meno di errori e rilevano il 10% in più di violazioni delle policy rispetto ai revisori umani.
Le ripercussioni di questo cambiamento si sono già manifestate, poiché la società di outsourcing Sama con sede a Nairobi ha emesso avvisi di licenziamento per 1.108 dipendenti in aprile a seguito della risoluzione di un importante impegno con Meta. Questa decisione è stata preceduta da segnalazioni di informatori da parte di lavoratori kenioti riguardanti contenuti inquietanti che dovevano rivedere, in particolare attraverso i filmati degli occhiali intelligenti di Meta.
La strategia di Meta di sfruttare appaltatori a basso costo all’estero per mettere alla prova i sistemi di intelligenza artificiale rivali, riducendo allo stesso tempo i posti di lavoro di moderazione umana, sottolinea le tensioni esistenti nel discorso sulla sicurezza dell’intelligenza artificiale mentre le aziende implementano tecnologie avanzate con una diminuzione del controllo umano.
