GPTZero és una eina dissenyada per detectar l'escriptura generada per ChatGPT , l'eina d'escriptura d'IA que va debutar al novembre i va enviar ones de xoc al sistema educatiu a causa de la seva capacitat de generar instantàniament text d'aspecte humà en resposta a indicacions.

GPTZero va ser creat per Edward Tian, ​​un sènior de la Universitat de Princeton, especialitzat en informàtica i en periodisme. GPTZero està disponible gratuïtament per als professors i altres, i pot detectar el treball generat per ChatGPT més del 98 per cent del temps, diu Tian a Tech & Aprenentatge. L'eina és una de les diverses eines de detecció noves que han sorgit des del llançament de ChatGPT.

Tian comparteix com va crear GPTZero, com funciona i com els professors poden utilitzar-lo per evitar fer trampes amb ChatGPT a les seves classes.

Què és GPTZero?

Tian es va inspirar per crear GPTZero després del llançament de ChatGPT i, com molts altres, va veure el potencial que tenia la tecnologia per ajudar a enganyar els estudiants . "Crec que aquesta tecnologia és el futur. La IA ha arribat per quedar-se", diu. "Però al mateix temps, hem de construir les garanties perquè aquestes noves tecnologies s'adoptin de manera responsable".

Abans del llançament de ChatGPT, la tesi de Tian s'havia centrat a detectar el llenguatge generat per IA i va treballar al Laboratori de processament del llenguatge natural de Princeton. Quan van arribar les vacances d'hivern, en Tian es va trobar amb molt de temps lliure i va començarcodificant amb el seu ordinador portàtil a les cafeteries per veure si podria construir un detector ChatGPT eficaç. "Vaig pensar per què no construeixo això i veig si el món pot utilitzar-lo".

El món ha estat molt interessat a utilitzar-lo. Tian ha aparegut a NPR i altres publicacions nacionals . Més de 20.000 educadors d'arreu del món i des de K12 fins a educació superior s'han registrat per rebre actualitzacions sobre GPTZero.

Com funciona GPTZero?

GPTZero detecta el text generat per IA mesurant dues propietats del text anomenades "perplexitat" i "esclat".

"La perplexitat és una mesura de l'atzar", diu Tian. “És una mesura de l'atzar o com de familiar és un text amb un model de llengua. Per tant, si un fragment de text és molt aleatori, o caòtic, o desconegut per a un model de llenguatge, si és molt perplex per a aquest model de llenguatge, aleshores tindrà una gran perplexitat i és més probable que sigui generat per l'home".

D'altra banda, el text que és molt familiar i que probablement hagi estat vist pel model d'idioma d'IA abans no el desconcertarà i és més probable que hagi estat generat per IA.

"Burstiness" es refereix a la complexitat de les frases. Els humans tendeixen a variar la longitud de la frase i a escriure en "ràfegues", mentre que els models de llenguatge d'IA són més coherents. Això es pot veure si creeu un gràfic mirant la frase. variabilitat “Per a un assaig humà, variaràper tot arreu. Pujarà i baixarà", diu Tian. "Seran esclats i pics sobtats, en comparació amb un assaig de màquina, serà bastant avorrit. Tindrà una línia de base constant".

Com poden els educadors utilitzar GPTZero?

La versió pilot gratuïta de GPTZero està disponible per a tots els educadors al lloc web de GPTZero. "El model actual té una taxa de falsos positius de menys del 2 per cent", diu Tian.

No obstant això, adverteix als educadors que no tractin els seus resultats com a prova positiva que un estudiant ha utilitzat la IA per fer trampes. "No vull que ningú prengui decisions definitives. Això és una cosa que vaig construir durant les vacances", diu sobre l'eina.

La tecnologia també té limitacions. Per exemple, no està dissenyada per detectar una barreja de text generat per IA i per humans. Els educadors poden registra't per ser inclòs en una llista de correu electrònic per rebre actualitzacions sobre la propera versió de la tecnologia, que podrà destacar les parts d'un text que sembla que hagin estat generades per IA. "Això és útil perquè no crec que ningú vagi. per copiar l'assaig sencer de ChatGPT, però la gent pot barrejar-hi parts", diu.

Pot GPTZero mantenir-se al dia amb ChatGPT a mesura que millora la tecnologia?

Fins i tot com ChatGPT i altres models de llenguatge d'IA millorar, Tian confia que tecnologia com GPTZero i altres programaris de detecció d'IA seguiran el ritme. "Entrenar un model de detecció és molt més fàcil que entrenar-ne un.grans models lingüístics gegantins. Són milions i milions de dòlars entrenar un d'aquests grans models lingüístics gegantins", diu. En altres paraules, ChatGPT no es va poder crear durant les vacances d'hivern a les cafeteries WiFi gratuïtes com GPTZero.

Com a menor de periodisme i amant de l'escriptura humana, en Tian confia igualment que el toc humà per escrit continuarà sent valuós en el futur.

"Aquests models lingüístics només ingereixen porcions gegantines d'Internet i regurgiten patrons, i no ofereixen res realment original", diu. "Per tant, poder escriure originalment seguirà sent una habilitat important".

• Què és ChatGPT?
• Les eines d'escriptura d'IA gratuïtes poden escriure assaigs en pocs minuts. Què significa això per als professors?
• Els programes d'escriptura d'IA estan millorant. És una bona cosa?

Per compartir els vostres comentaris i idees sobre aquest article, penseu a unir-vos al nostre Tech & Comunitat d'aprenentatge en línia .