GPTZero er et verktøy utviklet for å oppdage skriving generert av ChatGPT , AI-skriveverktøyet som debuterte i november og sendte sjokkbølger gjennom utdanningssystemet på grunn av dets evne til å umiddelbart generere tekst som virker som menneske som svar på spør.

GPTZero ble opprettet av Edward Tian, ​​senior ved Princeton University som har hovedfag i informatikk og mindrefag i journalistikk. GPTZero er gratis tilgjengelig for lærere og andre, og kan oppdage arbeid generert av ChatGPT mer enn 98 prosent av tiden, sier Tian til Tech & Læring. Verktøyet er et av flere nye deteksjonsverktøy som har dukket opp siden utgivelsen av ChatGPT.

Tian deler hvordan han opprettet GPTZero, hvordan det fungerer, og hvordan lærere kan bruke det for å forhindre juks med ChatGPT i klassene deres.

Hva er GPTZero?

Tian ble inspirert til å lage GPTZero etter at ChatGPT ble utgitt, og han, som mange andre, så potensialet teknologien hadde for å hjelpe studentjuks . "Jeg tror denne teknologien er fremtiden. AI er kommet for å bli, sier han. "Men samtidig må vi bygge sikkerhetstiltak slik at disse nye teknologiene blir tatt i bruk på en ansvarlig måte."

Før utgivelsen av ChatGPT hadde Tians avhandling fokusert på å oppdage AI-generert språk, og han jobbet ved Princetons Natural Language Processing Lab. Da vinterferien kom, fant Tian mye fritid og begyntekoding med den bærbare datamaskinen på kaffebarer for å se om han kunne bygge en effektiv ChatGPT-detektor. "Jeg tenkte hvorfor bygger jeg ikke dette ut og ser om verden kan bruke det."

Verden har vært veldig interessert i å bruke den. Tian har blitt omtalt i NPR og andre nasjonale publikasjoner . Mer enn 20 000 lærere fra hele verden og fra K12 til høyere ed har registrert seg for å motta oppdateringer om GPTZero.

Hvordan fungerer GPTZero?

GPTZero oppdager AI-generert tekst ved å måle to egenskaper for tekst kalt «forvirring» og «utbrudd».

«Forvirring er et mål på tilfeldighet,» sier Tian. «Det er en måling av hvor tilfeldig eller hvor kjent en tekst er for en språkmodell. Så hvis et tekststykke er veldig tilfeldig, eller kaotisk, eller ukjent for en språkmodell, hvis det er veldig forvirrende for denne språkmodellen, så vil det ha høy forvirring, og det er mer sannsynlig at det er menneskeskapt.»

På den annen side, tekst som er veldig kjent og sannsynligvis har blitt sett av AI-språkmodellen før, vil ikke være forvirrende for den og er mer sannsynlig å ha blitt AI-generert.

"Burstiness" refererer til kompleksiteten til setninger. Mennesker har en tendens til å variere setningslengden og skrive i "bursts", mens AI-språkmodeller er mer konsistente. Dette kan sees hvis du lager et diagram som ser på setningen "For et menneskelig essay vil det variereover alt. Det vil gå opp og ned, sier Tian. "De vil være plutselige utbrudd og pigger, i motsetning til et maskinessay vil det være ganske kjedelig. Den vil ha en konstant baseline.»

Hvordan kan lærere bruke GPTZero?

Den gratis pilotversjonen av GPTZero er tilgjengelig for alle lærere på nettstedet for GPTZero. "Den nåværende modellen har en falsk-positiv rate på mindre enn 2 prosent," sier Tian.

Men han advarer lærere om ikke å behandle resultatene som bevis for at en student har brukt AI for å jukse. «Jeg vil ikke at noen skal ta endelige avgjørelser. Dette er noe jeg bygde ut i løpet av ferien," sier han om verktøyet.

Teknologien har også begrensninger. Den er for eksempel ikke laget for å oppdage en blanding av AI- og menneskeskapt tekst. Lærere kan registrer deg for å bli satt på en e-postliste for oppdateringer om neste versjon av teknologien, som vil kunne fremheve delene av en tekst som ser ut til å ha blitt generert av AI. «Det er nyttig fordi jeg tror ikke noen kommer til å gå å kopiere hele essayet fra ChatGPT, men folk kan blande deler inn», sier han.

Kan GPTZero holde tritt med ChatGPT ettersom teknologien blir bedre?

Selv som ChatGPT og andre AI-språkmodeller forbedre, er Tian sikker på at teknologi som GPTZero og annen AI-deteksjonsprogramvare vil holde tritt. «Å trene en deteksjonsmodell er så mye enklere enn å trene en av dissegigantiske store språkmodeller. Det er millioner og millioner av dollar å trene opp en av disse gigantiske store språkmodellene, sier han. Med andre ord, ChatGPT kunne ikke opprettes over vinterferien i gratis WiFi-kaféer slik GPTZero var.

Som mindreårig journalist og elsker menneskelig skriving, er Tian like sikker på at den menneskelige berøringen i skrift vil forbli verdifull i fremtiden.

"Disse språkmodellene inntar bare gigantiske deler av internett og oppstår mønstre, og de kommer ikke opp med noe virkelig originalt," sier han. "Så det å kunne skrive originalt vil fortsatt være en viktig ferdighet."

• Hva er ChatGPT?
• Gratis AI-skriveverktøy kan skrive essays på få minutter. Hva betyr det for lærere?
• AI-skriveprogrammer blir bedre. Er det en god ting?

For å dele tilbakemeldinger og ideer om denne artikkelen, bør du vurdere å bli med i vår Tech & Lærende nettsamfunn .