Edward Tian, un anziano di 22 anni della Princeton University, ha creato l’app GPTZero durante la sua pausa invernale. L’app è progettata per valutare se un testo è stato generato dal popolare chatbot ChatGPT. Secondo Tian, l’app GPTZero può determinare in modo rapido ed efficiente se un testo è stato scritto da un essere umano o da ChatGPT ed è stato creato a causa di preoccupazioni sull’uso non etico di ChatGPT nel mondo accademico.
Edward Tian, laureato in informatica con una specializzazione in giornalismo, ha sviluppato l’app GPTZero per affrontare quello che vede come un aumento del plagio dell’IA. Crede che le persone meritino di sapere se l’IA o un essere umano è l’autore di un testo, e questo desiderio lo ha portato a creare l’app. In un tweet che promuove l’app GPTZero, ha scritto: “C’è così tanto clamore intorno a ChatGPT. Questo e quello è stato scritto da AI? Noi umani meritiamo di sapere!
Ho passato il capodanno a costruire GPTZero, un’app in grado di rilevare in modo rapido ed efficiente se un saggio è ChatGPT o scritto da persone
— Edward Tian (@edward_the6) 3 gennaio 2023
Dopo l’introduzione di ChatGPT a novembre, ci sono state segnalazioni di studenti che utilizzano il modello linguistico per inviare i compiti generati dall’intelligenza artificiale come propri. Con lo sviluppo dell’app GPTZero di Tian, gli insegnanti hanno ora un nuovo strumento per identificare se i saggi inviati dagli studenti sono scritti da ChatGPT. Il 2 gennaio, quando Tian ha reso disponibile l’app, altri insegnanti lo hanno contattato per condividere un feedback positivo sulle sue prestazioni nel rilevare saggi scritti dall’IA.
App GPTZero: come rilevare la scrittura ChatGPT?
L’app GPTZero utilizza “perplessità” e “esplosione” come indicatori per determinare se un testo è stato scritto da un essere umano o da un bot. La perplessità è una misura della complessità del testo, se l’app GPTZero trova il testo difficile da capire, significa che il testo è più complesso e quindi è probabile che sia stato scritto da un essere umano. Se risulta di facile comprensione, è molto probabile che sia stato generato dall’intelligenza artificiale poiché è stato addestrato su testi simili. “Burstiness” contrasta le diverse versioni delle frasi e gli umani tendono a scrivere più velocemente, il che può includere un mix di parole più lunghe e più brevi, mentre le frasi generate dall’IA sono in genere più coerenti.
Tian ha dimostrato come l’app sia in grado di distinguere tra testi scritti da umani e AI mostrando la sua analisi di un articolo del New Yorker e un post di ChatGPT su LinkedIn in un video. L’app si è rivelata efficace nella sua analisi. Entro una settimana dal suo lancio, l’app GPTZero è stata utilizzata da più di 30.000 utenti e la sua popolarità ha causato l’arresto anomalo dell’app. Streamlit, il software open source che esegue l’app GPTZero, da allora ha fornito più risorse per gestire l’elevato traffico sul sito Web per aiutare Tian.
ecco una rapida demo con john mcphee’s "quadro di riferimento" pic.twitter.com/WphxfxxFdr
— Edward Tian (@edward_the6) 3 gennaio 2023
Edward Tian non è l’unico a combattere contro il plagio e la falsificazione dell’IA. OpenAI, il creatore di ChatGPT, ha anche mostrato il suo impegno a fermare tale uso dannoso dell’IA. Secondo Scott Aaronson, un ricercatore di OpenAI specializzato nella sicurezza dell’IA, l’organizzazione ha sviluppato un modo per incorporare “segnali segreti impercettibili” nel testo generato da GPT per tracciarne l’origine, che è simile al concetto di “filigrana”. Ciò aiuterà a rilevare il plagio dell’IA o altri usi dannosi.
La community AI open source Hugging Face ha rilasciato uno strumento in grado di determinare se un testo è stato generato da GPT-2, una versione precedente del modello AI utilizzato per creare ChatGPT. Un professore di filosofia della Carolina del Sud, che era a conoscenza di questa tecnica, ha riferito di averla utilizzata per rilevare uno studente che presentava un lavoro che era stato creato dall’intelligenza artificiale.
Edward Tian non è contrario all’uso di ChatGPT e di altre tecnologie AI, ritiene che l’app GPTZero non abbia lo scopo di impedire l’uso di queste tecnologie, ma di fornire un modo per adottarle responsabilmente e avere la protezione necessaria. Vuole portare trasparenza all’IA che è stata per troppo tempo una scatola nera. Ha creato l’app per dare alle persone un’idea di ciò che differenzia la scrittura umana dalla scrittura generata dall’intelligenza artificiale, anche se capisce che l’app GPTZero non è perfetta e continua a lavorare per migliorarne la precisione. Ha sottolineato che il suo obiettivo principale è rendere l’IA più trasparente.
Anche se ci sono progetti legittimi contro il plagio, alcuni grandi giocatori, come Microsoft, stanno integrando ChatGPT nel loro software!
Source: Rilevamento AI: l’app GPTZero può rilevare la scrittura ChatGPT?