GPTZero est un outil conçu pour détecter les écritures générées par ChatGPT l'outil d'écriture IA qui a fait ses débuts en novembre et qui a provoqué une onde de choc dans le système éducatif en raison de sa capacité à générer instantanément des textes à l'apparence humaine en réponse à des messages-guides.

GPTZero a été créé par Edward Tian, étudiant en dernière année à l'université de Princeton, spécialisé dans l'informatique et le journalisme. disponible gratuitement Il peut détecter les travaux générés par ChatGPT dans plus de 98 % des cas, explique Tian à Tech & ; Learning. L'outil est l'un des plus importants de l'industrie. plusieurs nouveaux qui ont vu le jour depuis la publication de ChatGPT.

Tian explique comment il a créé GPTZero, comment il fonctionne et comment les enseignants peuvent l'utiliser pour empêcher la tricherie avec ChatGPT dans leurs classes.

Qu'est-ce que GPTZero ?

Tian a eu l'idée de créer GPTZero après la sortie de ChatGPT et, comme beaucoup d'autres, il a vu le potentiel de cette technologie pour aider les entreprises à se développer. tricherie des étudiants Je pense que cette technologie représente l'avenir. L'IA est là pour durer", déclare-t-il, "mais en même temps, nous devons mettre en place des garde-fous pour que ces nouvelles technologies soient adoptées de manière responsable".

Avant la publication de ChatGPT, la thèse de Tian portait sur la détection du langage généré par l'IA et il travaillait au laboratoire de traitement du langage naturel de Princeton. Au moment des vacances d'hiver, Tian s'est retrouvé avec beaucoup de temps libre et a commencé à coder avec son ordinateur portable dans des cafés pour voir s'il pouvait construire un détecteur ChatGPT efficace. "Je me suis dit : pourquoi ne pas construire cela et voir si le monde peutl'utiliser".

Le monde entier s'est intéressé de près à son utilisation. Tian a été présenté sur les sites suivants NPR et autres publications nationales Plus de 20 000 éducateurs du monde entier, de la maternelle à la terminale, se sont inscrits pour recevoir des informations sur GPTZero.

Comment fonctionne GPTZero ?

GPTZero détecte les textes générés par l'IA en mesurant deux propriétés du texte appelées "perplexité" et "éclatement".

"La perplexité est une mesure du caractère aléatoire d'un texte, explique M. Tian, c'est-à-dire de son degré d'aléatoire ou de familiarité avec un modèle de langage. Ainsi, si un texte est très aléatoire, chaotique ou peu familier à un modèle de langage, s'il le rend très perplexe, sa perplexité sera élevée et il aura plus de chances d'être généré par un être humain."

En revanche, un texte qui est très familier et qui a probablement déjà été vu par le modèle linguistique de l'IA ne le laissera pas perplexe et il est plus probable qu'il ait été généré par l'IA.

"Les humains ont tendance à varier la longueur de leurs phrases et à écrire en "rafales", tandis que les modèles de langage de l'IA sont plus cohérents. On peut le constater en créant un graphique sur la variabilité des phrases. Pour un essai humain, la longueur varie de façon générale, avec des hauts et des bas", explique Tian, "il s'agit de rafales et de pics soudains, tandis que pour un essai machine, la longueur est de l'ordre de l'une à l'autre".Il aura une ligne de base constante".

Comment les éducateurs peuvent-ils utiliser GPTZero ?

La version pilote gratuite de GPTZero est disponible pour tous les éducateurs sur le site GPTZero site web Le modèle actuel a un taux de faux positifs inférieur à 2 %", précise M. Tian.

Toutefois, il met en garde les éducateurs contre la tentation de considérer les résultats obtenus comme une preuve positive qu'un élève a utilisé l'IA pour tricher : "Je ne veux pas que quiconque prenne des décisions définitives. C'est un outil que j'ai mis au point pendant les vacances", déclare-t-il à propos de l'outil.

La technologie a également ses limites. Par exemple, elle n'est pas conçue pour détecter un mélange de textes générés par l'IA et par l'homme. Les éducateurs peuvent s'inscrire sur une liste de diffusion pour recevoir des mises à jour sur la prochaine version de la technologie, qui sera capable de mettre en évidence les parties d'un texte qui semblent avoir été générées par l'IA. "C'est utile parce que je ne pense pas que quelqu'un va copier l'intégralité d'une dissertation à partir de la page d'accueil du site Web de l'IA.ChatGPT, mais les gens peuvent mélanger des portions", dit-il.

Est-ce que GPTZero peut suivre ChatGPT au fur et à mesure que la technologie s'améliore ?

Même si ChatGPT et d'autres modèles linguistiques d'IA s'améliorent, M. Tian est convaincu que des technologies telles que GPTZero et d'autres logiciels de détection d'IA suivront le rythme. La formation d'un modèle de détection est tellement plus facile que la formation d'un de ces gigantesques modèles linguistiques. La formation d'un de ces gigantesques modèles linguistiques coûte des millions et des millions de dollars", explique-t-il. En d'autres termes, ChatGPT ne pouvait pas êtrecréé pendant les vacances d'hiver dans des cafés WiFi gratuits, comme l'était GPTZero.

En tant que mineur en journalisme et amoureux de l'écriture humaine, Tian est également convaincu que la touche humaine dans l'écriture restera précieuse à l'avenir.

"Ces modèles de langage ne font qu'ingérer des portions gigantesques de l'internet et régurgiter des modèles, sans rien produire de vraiment original", explique-t-il, "la capacité à écrire de manière originale restera donc une compétence importante".

• Qu'est-ce que ChatGPT ?
• Des outils d'IA gratuits peuvent rédiger des essais en quelques minutes. Qu'est-ce que cela signifie pour les enseignants ?
• Les programmes de rédaction assistée par ordinateur s'améliorent, est-ce une bonne chose ?

Pour faire part de vos commentaires et de vos idées sur cet article, pensez à rejoindre notre Communauté en ligne Tech & ; Learning .