Slack, la piattaforma ampiamente utilizzata per la comunicazione sul posto di lavoro, utilizza i dati degli utenti per migliorare le proprie capacità di intelligenza artificiale.
Le informazioni a cui accede l’intelligenza artificiale includono l’utilizzo di messaggi, file e altri contenuti generati dagli utenti per migliorare funzionalità come consigli sui canali, funzionalità di ricerca, completamento automatico e suggerimenti di emoji.
Sebbene questi miglioramenti mirano a semplificare l’esperienza dell’utente, la pratica di attingere ai dati degli utenti ha suscitato preoccupazioni in merito alla privacy e al consenso.
L’algoritmo AI di decodifica di Slack fa sì che i dati dell’utente siano l’ingrediente segreto
Al centro della formazione sull’intelligenza artificiale di Slack c’è l’uso delle interazioni dell’utente all’interno della piattaforma. Analizzando i modelli di messaggi, file e altre forme di comunicazione, i modelli di intelligenza artificiale di Slack ottengono informazioni che vengono poi applicate per migliorare varie funzionalità. Questo approccio, sebbene apparentemente vantaggioso per migliorare l’esperienza dell’utente, solleva interrogativi sulla misura in cui si accede ai dati dell’utente e su come vengono utilizzati. Naturalmente questi sono i pensieri dell’azienda. Gli utenti sono molto preoccupati per questa situazione.
L’accesso a questi contenuti, che possono includere messaggi privati, informazioni aziendali o file riservati, previa autorizzazione dell’intelligenza artificiale dell’azienda, ha iniziato a sollevare questioni etiche.
L’inclusione predefinita accende il dibattito
Uno degli aspetti più controversi della formazione AI di Slack è l’inclusione predefinita di tutti gli utenti. Ciò significa che, a meno che un utente o un’organizzazione non decida espressamente di rinunciare, i suoi dati verranno automaticamente inclusi nel processo di formazione. Questa pratica ha attirato critiche da parte di coloro che credono che gli utenti dovrebbero essere informati e avere la possibilità di scegliere di partecipare alla raccolta dei dati prima che abbia inizio.
Polemica svelata: riconoscimento e risposta di Slack
La questione ha preso piede quando Corey Quinn, un dirigente di DuckBill Group, ha criticato pubblicamente la politica di intelligenza artificiale di Slack. In risposta, Slack ha confermato di utilizzare i contenuti degli utenti per addestrare alcuni dei suoi strumenti di intelligenza artificiale, chiarendo al contempo che i dati dei clienti non vengono utilizzati per addestrare strumenti di intelligenza artificiale a pagamento. La società ha inoltre affermato che le organizzazioni o gli amministratori dello spazio di lavoro possono richiedere la rimozione dei propri messaggi e contenuti dal set di dati di formazione, sollevando dubbi sul motivo per cui tale richiesta sia necessaria su una piattaforma per la quale gli utenti pagano.
Le preoccupazioni degli utenti si diffondono sui social media
La polemica si è ulteriormente intensificata piattaforma di social media X, in cui molti utenti sostenevano che Slack avrebbe dovuto rendere la funzionalità di addestramento dell’intelligenza artificiale opzionale anziché l’impostazione predefinita. Sono state sollevate preoccupazioni circa il potenziale uso improprio di messaggi privati, informazioni aziendali e file riservati, nonché la mancanza di un semplice meccanismo di opt-out per i singoli utenti.
In risposta alle domande, un rappresentante di Slack ha ribadito che i modelli di intelligenza artificiale dell’azienda non sono progettati per apprendere, memorizzare o riprodurre i dati dei clienti. Hanno sottolineato che i clienti possono escludere i propri dati dall’addestramento di questi modelli di intelligenza artificiale (non generativa). Tuttavia, questo chiarimento ha fatto ben poco per placare le preoccupazioni degli utenti che ritengono che la comunicazione iniziale relativa all’utilizzo dei dati fosse poco chiara e potenzialmente fuorviante.
Una narrazione confusa: dichiarazioni non corrispondenti sulla politica dell’IA
La dichiarazione di Slack sulla sua pagina di intelligenza artificiale: “I tuoi dati sono i tuoi dati. Non lo usiamo per addestrare l’IA di Slack”, ha aggiunto alla confusione. Sebbene l’azienda chiarisca che gli strumenti di intelligenza artificiale produttivi a pagamento non vengono addestrati utilizzando i dati degli utenti di Slack, il riconoscimento che altri modelli di intelligenza artificiale vengono addestrati utilizzando tali dati contraddice l’idea che i dati degli utenti rimangano esclusivamente nelle mani degli utenti. Avvocato Elisabetta Wharton ha definito la decisione di Slack un “pasticcio sulla privacy” e ha criticato la mancanza di una facile via d’uscita per i singoli utenti.
La pratica di Slack di utilizzare i dati degli utenti per la formazione sull’intelligenza artificiale, pur mirando a migliorare le funzionalità della piattaforma, ha suscitato notevoli controversie. L’inclusione predefinita degli utenti, la mancanza di una comunicazione chiara e le potenziali implicazioni sulla privacy hanno alimentato i dibattiti sul consenso, sulla trasparenza e sull’utilizzo etico dei dati nell’era digitale. Poiché l’intelligenza artificiale continua a svolgere un ruolo sempre più importante in vari aspetti della nostra vita, è probabile che il dibattito sui dati degli utenti e sul loro utilizzo rimanga un punto focale sia per i consumatori che per le aziende.
Credito immagine in primo piano: Stephen Phillips – Hostreviews.co.uk / Unsplash
Source: L’intelligenza artificiale di Slack è alimentata dai dati degli utenti