OpenAI ha sviluppato uno strumento in grado di identificare gli studenti che utilizzano ChatGPT per completare i loro compiti, ma non è ancora sicuro se renderlo pubblico. Il giornale di Wall Street ha riferito che l’azienda sta sperimentando un metodo chiamato text watermarking. Questa tecnica consiste nell’apportare piccole modifiche al modo in cui ChatGPT seleziona le parole, creando una “filigrana” nascosta nel testo che può essere rilevata in seguito.
Un portavoce di OpenAI ha detto Notizie TechCrunch che l’azienda sta facendo attenzione a rilasciare questo strumento a causa della sua complessità e del suo potenziale impatto. Sono preoccupati per problemi come le persone che trovano modi per aggirare la filigrana e la possibilità di colpire ingiustamente chi non parla inglese.
È “altamente accurato”
Questo approccio è diverso dai precedenti tentativi di individuare il testo generato dall’IA, che hanno per lo più fallito. Ad esempio, GPTZero, un altro strumento progettato per rilevare il testo scritto dall’IA, ha dovuto affrontare sfide in termini di accuratezza ed efficacia. Anche OpenAI ha smesso di utilizzare il proprio rilevatore di testo AI l’anno scorso perché non era abbastanza accurato. Il nuovo strumento di filigrana si concentrerebbe solo sulla cattura del testo scritto da ChatGPT, non di altri modelli AI.
In un aggiornamento post sul blogOpenAI ha osservato che la filigrana del testo è stata “altamente accurata” contro la semplice manomissione, come la modifica di alcune parole. Tuttavia, è meno efficace contro metodi più complessi, come la traduzione del testo in un’altra lingua o l’utilizzo di un altro modello di intelligenza artificiale per riformularlo. L’azienda ha anche espresso preoccupazioni sul fatto che questo strumento potrebbe stigmatizzare ingiustamente l’uso dell’intelligenza artificiale, in particolare per i non madrelingua inglesi che potrebbero utilizzare l’intelligenza artificiale per aiutare nella scrittura.
Mentre OpenAI valuta questi fattori, sta prendendo tempo per decidere se rilasciare o meno questo strumento, soppesando attentamente i pro e i contro.
Tutte le immagini sono generate da Eray Eliakik/Bing
Source: OpenAI sa come individuare il lavoro di ChatGPT, ma esita a condividerlo