GPTZero é unha ferramenta deseñada para detectar a escrita xerada por ChatGPT , a ferramenta de escritura de intelixencia artificial que se estreou en novembro e que enviou ondas de choque ao sistema educativo debido á súa capacidade para xerar instantáneamente texto de apariencia humana en resposta a solicitudes.

GPTZero foi creado por Edward Tian, ​​un estudiante de último ciclo da Universidade de Princeton que se especializa en informática e en xornalismo. GPTZero está dispoñible de xeito gratuíto para profesores e outras persoas, e pode detectar o traballo xerado por ChatGPT máis do 98 por cento das veces, di Tian a Tech & Aprendizaxe. A ferramenta é unha das varias novas ferramentas de detección que xurdiron desde o lanzamento de ChatGPT.

Tian comparte como creou GPTZero, como funciona e como os profesores poden utilizalo para evitar facer trampas con ChatGPT nas súas clases.

Que é GPTZero?

Tian inspirouse para crear GPTZero despois do lanzamento de ChatGPT e el, como moitos outros, viu o potencial que tiña a tecnoloxía para axudar a a trampas dos estudantes . "Creo que esta tecnoloxía é o futuro. A IA está aquí para quedarse", di. "Pero ao mesmo tempo, temos que construír as garantías para que estas novas tecnoloxías se adopten de forma responsable".

Antes do lanzamento de ChatGPT, a tese de Tian centrábase na detección da linguaxe xerada pola IA e traballou no Laboratorio de Procesamento da Linguaxe Natural de Princeton. Cando chegaron as vacacións de inverno, Tian atopouse con moito tempo libre e comezoucodificando co seu portátil en cafeterías para ver se podería construír un detector ChatGPT eficaz. "Eu dixen por que non construí isto e vexo se o mundo pode usalo".

O mundo estivo moi interesado en usalo. Tian apareceu en NPR e noutras publicacións nacionais . Máis de 20.000 educadores de todo o mundo e desde K12 ata educación superior rexistráronse para recibir actualizacións sobre GPTZero.

Como funciona GPTZero?

GPTZero detecta texto xerado pola intelixencia artificial ao medir dúas propiedades do texto chamadas "perplexidade" e "estupor".

"A perplexidade é unha medida da aleatoriedade", di Tian. “É unha medida do aleatorio ou do familiar que é un texto a un modelo lingüístico. Entón, se unha peza de texto é moi aleatoria, ou caótica, ou descoñecida para un modelo lingüístico, se resulta moi desconcertante para este modelo lingüístico, entón vai ter unha gran perplexidade e é máis probable que sexa xerada por humanos.

Por outra banda, o texto que é moi familiar e que probablemente xa foi visto polo modelo de linguaxe AI antes non lle resultará desconcertante e é máis probable que fose xerado por IA.

"Burstiness" refírese á complexidade das frases. Os humanos tenden a variar a lonxitude da súa frase e escribir en "ráfagas", mentres que os modelos de linguaxe de IA son máis consistentes. Isto pódese ver se creas un gráfico mirando a frase. variabilidade.“Para un ensaio humano, variaráen todo o lugar. Subirá e baixará", di Tian. "Serán explosións e picos repentinos, fronte a un ensaio de máquina, será bastante aburrido. Terá unha liña de base constante".

Como poden os educadores usar GPTZero?

A versión piloto gratuíta de GPTZero está dispoñible para todos os educadores no sitio web de GPTZero. "O modelo actual ten unha taxa de falsos positivos de menos do 2 por cento", di Tian.

Non obstante, advirte aos educadores que non traten os seus resultados como unha proba positiva de que un estudante utilizou a IA para facer trampas. "Non quero que ninguén tome decisións definitivas. Isto é algo que desenvolvín durante as vacacións", di sobre a ferramenta.

A tecnoloxía tamén ten limitacións. Por exemplo, non está deseñada para detectar unha mestura de texto xerado por intelixencia artificial e por humanos. Os educadores poden rexístrese para ser incluído nunha lista de correo electrónico para recibir actualizacións sobre a próxima versión da tecnoloxía, que poderá resaltar as partes dun texto que parecen ser xeradas pola intelixencia artificial. "Isto é útil porque non creo que ninguén vaia ir. para copiar todo o ensaio de ChatGPT, pero a xente pode mesturar partes", di.

Pode GPTZero seguir o ritmo de ChatGPT mentres a tecnoloxía mellora?

Aínda que ChatGPT e outros modelos de linguaxe de IA mellorar, Tian confía en que tecnoloxía como GPTZero e outro software de detección de intelixencia artificial seguirán o ritmo. "Adestrar un modelo de detección é moito máis sinxelo que adestrar un destesxigantescos grandes modelos lingüísticos. Son millóns e millóns de dólares para adestrar un destes xigantescos grandes modelos lingüísticos ", di. Noutras palabras, ChatGPT non se puido crear durante as vacacións de inverno nas cafeterías con wifi gratuíta como foi GPTZero.

Como menor de xornalismo e amante da escritura humana, Tian confía igualmente en que o toque humano na escritura seguirá sendo valioso no futuro.

"Estes modelos lingüísticos só están a inxerir porcións xigantescas de Internet e a regurxitar patróns, e non están a dar nada realmente orixinal", di. "Entón, poder escribir orixinalmente seguirá sendo unha habilidade importante".

• Que é ChatGPT?
• As ferramentas gratuítas de escritura de intelixencia artificial poden escribir ensaios en poucos minutos. Que significa iso para os profesores?
• Os programas de escritura de IA están a mellorar. É unha boa cousa?

Para compartir os teus comentarios e ideas sobre este artigo, considera unirte ao noso Tech & Comunidade de aprendizaxe en liña .