OpenAI, la società responsabile della creazione di ChatGPT, ha sviluppato AI Text Classifier per distinguere tra testo scritto da AI e testo scritto da umani. Lo chiamiamo “rilevatore ChatGPT”. Sebbene non sia possibile identificare con assoluta certezza il testo scritto dall’IA, OpenAI ritiene che il suo nuovo strumento ridurrà i casi di false affermazioni secondo cui il contenuto scritto dall’uomo è effettivamente generato dall’IA.
Comprensione del classificatore di testo AI
Nel una dichiarazioneOpenAI afferma che il suo classificatore di testo AI può ostacolare la diffusione di disinformazione automatizzata, impedire l’uso dell’intelligenza artificiale per l’inganno accademico e impedire ai chatbot di fingere di essere umani.
L’accuratezza dello strumento è stata testata su una serie di testi in inglese, dove ha identificato correttamente il testo scritto da AI il 26% delle volte. Tuttavia, ha anche erroneamente classificato il testo scritto dall’uomo come generato dall’intelligenza artificiale il 9% delle volte. Secondo OpenAI, lo strumento funziona meglio quando il testo è più lungo, motivo per cui richiede un minimo di 1.000 caratteri per eseguire un test.
Come utilizzare il rilevatore ChatGPT di OpenAI?
Il classificatore di testo OpenAI AI è facile da usare. Semplicemente vai a questa pagina, accedi, incolla il testo da testare e premi il pulsante di invio. Lo strumento fornirà quindi una valutazione della probabilità che il testo sia stato generato dall’intelligenza artificiale. I risultati possono variare da:
- Molto spiacevole
- Improbabile
- Non è chiaro se lo sia
- Possibilmente
- Probabile
Abbiamo valutato le capacità di scrittura di ChatGPT facendogli scrivere un saggio sulla sicurezza informatica e quindi inviando il saggio a un classificatore di testo AI. Il classificatore ha valutato il saggio come “possibilmente generato dall’intelligenza artificiale”, che è un’indicazione forte ma non definitiva:
Ciò evidenzia i limiti dello strumento, in quanto non è possibile affermare con assoluta certezza che il saggio sia stato scritto da AI. Apportando lievi modifiche suggerite da Grammarly, ho abbassato la valutazione da “forse” a “poco chiaro”. OpenAI è accurato nel sottolineare che è semplice aggirare il classificatore, ma non intende essere l’unica prova che l’IA ha scritto il testo.
OpenAI dichiara in una sezione FAQ in fondo alla pagina:
“Il nostro utilizzo previsto per l’AI Text Classifier è quello di favorire la conversazione sulla distinzione tra contenuto scritto dall’uomo e contenuto generato dall’IA. I risultati possono aiutare, ma non dovrebbero essere l’unica prova quando si decide se un documento è stato generato con l’intelligenza artificiale. Il modello è addestrato su testo scritto da persone provenienti da una varietà di fonti, che potrebbero non essere rappresentative di tutti i tipi di testo scritto da persone”.
OpenAI afferma che lo strumento non è stato sottoposto a test approfonditi per rilevare il testo che è un misto di intelligenza artificiale e scrittura umana. Sebbene il classificatore di testo AI possa essere utile per identificare il testo che potrebbe essere stato creato dall’IA, non dovrebbe essere considerato l’unica base per effettuare una determinazione finale.
Se hai a che fare con l’errore ChatGPT 405 – metodo non consentito, consulta la nostra guida speciale!
Source: Classificatore di testo AI: spiegazione del rilevatore ChatGPT di OpenAI