GPTZero è uno strumento progettato per rilevare la scrittura generata da ChatGPT , lo strumento di scrittura AI che ha fatto il suo debutto a novembre e che ha fatto tremare il sistema educativo per la sua capacità di generare istantaneamente testi che sembrano umani in risposta a richieste.

GPTZero è stato creato da Edward Tian, studente all'ultimo anno dell'Università di Princeton con specializzazione in informatica e minore in giornalismo. GPTZero è disponibile gratuitamente agli insegnanti e ad altri, ed è in grado di rilevare il lavoro generato da ChatGPT in oltre il 98% dei casi, spiega Tian a Tech & Learning. diversi nuovi strumenti di rilevamento emersi dopo il rilascio di ChatGPT.

Tian racconta come ha creato GPTZero, come funziona e come gli insegnanti possono utilizzarlo per prevenire gli imbrogli con ChatGPT nelle loro classi.

Che cos'è GPTZero?

Tian è stato ispirato a creare GPTZero dopo il rilascio di ChatGPT e, come molti altri, ha visto il potenziale che questa tecnologia aveva per aiutare imbrogli degli studenti Penso che questa tecnologia sia il futuro e che l'intelligenza artificiale sia destinata a rimanere", ha affermato, "ma allo stesso tempo dobbiamo costruire delle garanzie affinché queste nuove tecnologie siano adottate in modo responsabile".

Prima del rilascio di ChatGPT, la tesi di Tian si era concentrata sull'individuazione del linguaggio generato dall'intelligenza artificiale e lavorava presso il Natural Language Processing Lab di Princeton. Durante le vacanze invernali, Tian si è ritrovato con molto tempo libero e ha iniziato a programmare con il suo laptop nelle caffetterie per vedere se fosse in grado di costruire un efficace rilevatore di ChatGPT. "Mi sono detto: "Perché non costruisco questo e vedo se il mondo puòusarlo".

Il mondo si è dimostrato molto interessato al suo utilizzo. Tian è stato presentato su NPR e altri pubblicazioni nazionali Più di 20.000 educatori di tutto il mondo, dal settore K12 a quello superiore, si sono iscritti per ricevere aggiornamenti su GPTZero.

Come funziona GPTZero?

GPTZero individua il testo generato dall'intelligenza artificiale misurando due proprietà del testo, chiamate "perplessità" e "irruenza".

"La perplessità è una misura della casualità", spiega Tian, "è una misura di quanto un testo sia casuale o familiare a un modello linguistico. Quindi, se un testo è molto casuale, o caotico, o non familiare a un modello linguistico, se è molto perplesso per questo modello linguistico, allora avrà un'alta perplessità ed è più probabile che sia stato generato dall'uomo".

D'altra parte, un testo molto familiare e che probabilmente è già stato visto dal modello linguistico dell'IA non suscita perplessità ed è più probabile che sia stato generato dall'IA.

"Gli esseri umani tendono a variare la lunghezza delle frasi e a scrivere "a raffica", mentre i modelli linguistici dell'intelligenza artificiale sono più coerenti. Questo si può vedere se si crea un grafico che analizza la variabilità delle frasi. "Per un saggio umano, varierà dappertutto. Andrà su e giù", dice Tian. "Saranno raffiche e picchi improvvisi, mentre per un saggio di una macchina, saràAvrà una linea di base costante".

Come possono utilizzare GPTZero gli educatori?

La versione pilota gratuita di GPTZero è disponibile per tutti gli educatori sul sito GPTZero. sito web Il modello attuale ha un tasso di falsi positivi inferiore al 2%", afferma Tian.

Tuttavia, mette in guardia gli educatori dal considerare i risultati come una prova positiva che uno studente abbia usato l'IA per imbrogliare: "Non voglio che nessuno prenda decisioni definitive. Si tratta di qualcosa che ho costruito durante le vacanze natalizie", dice a proposito dello strumento.

La tecnologia ha anche dei limiti: ad esempio, non è stata progettata per rilevare un mix di testo generato dall'IA e dall'uomo. Gli educatori possono iscriversi a una lista di e-mail per ricevere aggiornamenti sulla prossima versione della tecnologia, che sarà in grado di evidenziare le porzioni di testo che sembrano essere state generate dall'IA. "Questo è utile perché non credo che qualcuno copierà l'intero saggio da un'altra parte".ChatGPT, ma la gente potrebbe mischiare le porzioni", dice.

Può GPTZero tenere il passo con ChatGPT mentre la tecnologia migliora?

Anche se ChatGPT e altri modelli linguistici di IA migliorano, Tian è fiducioso che la tecnologia come GPTZero e altri software di rilevamento dell'IA terranno il passo. "Addestrare un modello di rilevamento è molto più facile che addestrare uno di questi giganteschi modelli linguistici di grandi dimensioni, che costano milioni e milioni di dollari", afferma Tian. In altre parole, ChatGPT non potrebbe esserecreato durante le vacanze invernali nelle caffetterie con WiFi gratuito, come GPTZero.

In quanto laureata in giornalismo e amante della scrittura umana, Tian è altrettanto sicura che il tocco umano nella scrittura rimarrà prezioso anche in futuro.

"Questi modelli linguistici non fanno altro che ingerire porzioni gigantesche di Internet e rigurgitare modelli, senza arrivare a nulla di veramente originale", afferma l'esperto, "quindi la capacità di scrivere in modo originale rimarrà un'abilità importante".

• Che cos'è ChatGPT?
• Gli strumenti di scrittura AI gratuiti possono scrivere saggi in pochi minuti: cosa significa per gli insegnanti?
• I programmi di scrittura AI stanno migliorando: è una buona cosa?

Per condividere i vostri commenti e le vostre idee su questo articolo, prendete in considerazione l'idea di unirvi al nostro sito web Tech & Comunità di apprendimento online .