Edward Tian ha creato GPTZero per rilevare il plagio alimentato da ChatGPT
Il dialogo generato dall’intelligenza artificiale di ChatGPT è diventato piuttosto sofisticato, al punto da poter scrivere saggi dal suono convincente. Quindi Edward Tian, uno studente di informatica a Princeton, ha creato un’app chiamata GPTZero che può “rapidamente ed efficacemente” etichettare se un saggio è stato scritto da una persona o ChatGPT.
Ho passato il capodanno a costruire GPTZero, un’app in grado di rilevare in modo rapido ed efficiente se un saggio è ChatGPT o scritto da persone
— Edward Tian (@edward_the6) 3 gennaio 2023
In una serie di tweet recenti, Tian ha fornito esempi di GPTZero in corso; l’app ha stabilito che il saggio sul New Yorker di John McPhee “Frame of Reference” sarebbe stato scritto da una persona e un post di LinkedIn da creare da un bot. Su Twitter, ha affermato di aver creato l’app durante le vacanze ed è stato motivato dalla crescente possibilità di plagio dell’IA.
ecco una rapida demo con il “quadro di riferimento” di john mcphee pic.twitter.com/WphxfxxFdr
— Edward Tian (@edward_the6) 3 gennaio 2023
Il 3 gennaio, Tian ha twittato che GPTZero non funzionava, probabilmente a causa di una quantità di traffico web maggiore del previsto. In una newsletter di Substack pubblicata oggi, Tian ha affermato che più di 10.000 persone hanno testato la versione pubblicamente disponibile di GPTZero su Steamlit. (Al momento della stesura, sia gptzero.me che la versione Streamlit mostrano errori, probabilmente a causa del volume di traffico.) Nella newsletter, Tian ha affermato di aver aggiornato il modello GPTZero per “ridurre significativamente il tasso di falsi positivi e migliorare i risultati di output .”
GPTZero utilizza “perplessità” e “esplosione” per determinare se un passaggio è stato scritto da un bot. La perplessità è la casualità del testo in una frase e se il modo in cui è costruita una frase è insolito o sorprendente per l’app. Burstiness confronta queste frasi l’una con l’altra, determinando la loro uniformità. La scrittura umana ha più prorompenza, vale a dire che tendiamo a scrivere con più variazioni di frase.
Le preoccupazioni per il plagio sono aumentate da quando OpenAI ha lanciato ChatGPT il 30 novembre 2022. Più di un milione di persone lo hanno utilizzato entro cinque giorni dal lancio. Il software basato sull’intelligenza artificiale può scrivere saggi di base ed emulare lo stile di scrittori affermati. Puoi indirizzare ChatGPT per copiare la voce di Shakespeare, ad esempio, o scrivere nello stile di un saggista del New Yorker. Ci sono intoppi nell’esecuzione, ma i risultati sono riconoscibili nello stile giusto. Non è difficile convincere l’intelligenza artificiale a scrivere un saggio in stile inglese del liceo e trovare il risultato abbastanza indistinguibile da un compito scritto da uno studente. Detto questo, ci sono ancora limitazioni a ciò che può fare. È facilmente sconcertato dagli enigmi e talvolta si limita a inventare fatti. StackOverflow ha anche vietato qualsiasi feedback di codifica generato da ChatGPT, grazie alla frequenza degli errori.
A dicembre, OpenAI ha dichiarato che avrebbe “filigranato” l’output di ChatGPT, al fine di combattere il plagio.
Nella sua newsletter, Tian ha affermato che sta lavorando a ulteriori aggiornamenti per GPTZero, tra cui “il miglioramento delle capacità del modello e il ridimensionamento completo dell’app”.