Twitch, la popolare piattaforma di streaming live, ha recentemente introdotto una funzionalità basata sull’intelligenza artificiale progettata per ridurre il linguaggio offensivo nelle chat room. Annunciato dal team di supporto di Twitch su X (ex Twitter), questo nuovo esperimento mira a rendere le interazioni online più positive, ma resta da vedere quanto successo avrà.
La piattaforma sta lanciando un avviso basato sull’apprendimento automatico che incoraggerà gli utenti a pensarci due volte prima di inviare messaggi che potrebbero essere considerati offensivi o irrispettosi. C’erano dei bot moderatori per questo, ma erano insufficienti, quindi Twitch sta ora cercando di introdurre un sistema integrato.
L’intelligenza artificiale affronta le parolacce nella chat di Twitch, ma i bot sono ancora liberi
L’idea di base di questa nuova funzionalità è quella di fornire un momento di pausa agli utenti che stanno per inviare messaggi potenzialmente dannosiQuando l’IA rileva un linguaggio che potrebbe essere considerato offensivo, apparirà un messaggio che chiede: “Sei sicuro di voler inviare questo?“Il messaggio mira a prevenire comunicazioni dannose dando agli utenti la possibilità di riconsiderare le proprie parole prima di premere Invia.
Ma il vero problema qui non si tratta tanto di persone che dicono parolacce, ma se account bot stanno inviando spam alle emittenti chat o guadagno un pubblico ingiusto. In altre parole, un account bot supererà già questo avviso e mangerà di nuovo quella parola, e l’account è già stato aperto per essere vietatoÈ un po’ interessante adottare misure contro le situazioni causate dal problema invece di risolvere il problema alla fonte.
Cari amici, abbiamo utilizzato l’esempio del messaggio perché, come prevedibile, non volevamo che venisse twittato un linguaggio davvero orribile.
Smettetela di fare gli idioti.
— Supporto Twitch (@TwitchSupport) 12 agosto 2024
Il concetto è semplice, ma resta da vedere quanto sarà efficace. L’obiettivo di Twitch è ridurre le molestie, un problema comune in molte comunità online. Tuttavia, sorge spontanea la domanda: gli utenti che vogliono essere irrispettosi ignoreranno l’avviso e continueranno a inviare messaggi? O quanto bene l’avviso funzionerà per gli account bot. L’esperimento di Twitch aiuterà a determinare se questo approccio basato sull’intelligenza artificiale può effettivamente frenare i comportamenti negativi o se è solo un altro filtro che gli utenti superano senza pensarci troppo.
Le sfide e il futuro della moderazione dell’IA
Uno degli aspetti più intriganti di questo esperimento è come l’intelligenza artificiale interpreterà il linguaggio. I sistemi di intelligenza artificiale, in particolare quelli basati sull’apprendimento automatico, si basano su modelli e dati per prendere decisioni. Il successo di questo esperimento dipende dalla capacità dell’intelligenza artificiale di rilevare e segnalare con precisione il linguaggio offensivo senza censurare inavvertitamente commenti innocui. Questo equilibrio è cruciale, poiché una moderazione eccessivamente sensibile può impedire il libero flusso della conversazione, mentre un approccio troppo indulgente potrebbe non riuscire a frenare proprio il comportamento che mira a eliminare.
Oppure l’intelligenza artificiale sarà in grado di rilevare cose illegali, come alcuni siti di scommessead esempio senza parolacce o messaggi offensivi?
Il team di supporto di Twitch ha lasciato intendere che nelle prossime settimane saranno condivisi altri aggiornamenti su questa funzionalità. Man mano che l’esperimento procede, sia Twitch che i suoi utenti osserveranno attentamente se questa iniziativa guidata dall’intelligenza artificiale può promuovere un ambiente più accogliente. Resta da vedere se questo è un passo verso chat room più pulite o una misura temporanea. Nel frattempo, vorrei che ripulissero gli account dei bot.
Questo esperimento ci ricorda che tutto ciò che viene condiviso su Twitch viene registrato e monitorato, persino i messaggi privati. Quindi esaminerà sia le parole buone che quelle cattive. Questa intelligenza artificiale verrà sviluppata utilizzando questi dati? Oppure, come dovremmo dire, verrà ottenuto il permesso dagli utenti?
Credito immagine in evidenza: Progetto RDNE Stock / Pexels
Source: Twitch utilizzerà l’intelligenza artificiale contro le parolacce