GPTZero는 ChatGPT 에 의해 생성된 글을 감지하도록 설계된 도구로, 11월에 데뷔하여 사람처럼 보이는 텍스트를 즉시 생성하는 능력으로 인해 교육 시스템에 충격파를 보낸 AI 작성 도구입니다. 프롬프트.

GPTZero는 Princeton University에서 컴퓨터 과학을 전공하고 저널리즘을 부전공한 Edward Tian이 만들었습니다. Tian은 Tech & 학습. 이 도구는 ChatGPT 출시 이후 등장한 몇 가지 새로운 탐지 도구 중 하나입니다.

Tian이 GPTZero를 만든 방법, 작동 방식, 교사가 수업에서 ChatGPT로 부정 행위를 방지하기 위해 어떻게 활용할 수 있는지 공유합니다.

GPT제로란?

Tian은 ChatGPT가 출시된 후 GPTZero를 만들도록 영감을 받았으며 다른 많은 사람들과 마찬가지로 이 기술이 학생 부정행위 에 도움이 될 가능성을 보았습니다. “저는 이 기술이 미래라고 생각합니다. AI가 여기 있습니다.”라고 그는 말합니다. "그러나 동시에 우리는 이러한 신기술이 책임감 있게 채택될 수 있도록 보호 장치를 구축해야 합니다."

ChatGPT 출시 이전에 Tian의 논문은 AI 생성 언어 탐지에 중점을 두었고 Princeton의 자연어 처리 연구소에서 근무했습니다. 겨울 방학이 되자 Tian은 많은 자유 시간을 갖게 되었고효과적인 ChatGPT 탐지기를 구축할 수 있는지 확인하기 위해 커피숍에서 노트북으로 코딩했습니다. "나는 이것을 그냥 구축하고 세상이 그것을 사용할 수 있는지 알아보는 것이 어떨까 생각했습니다."

세계는 그것을 사용하는 데 많은 관심을 보였습니다. Tian은 NPR 및 기타 국가 간행물 에 소개되었습니다. K12에서 고등교육에 이르기까지 전 세계 20,000명 이상의 교육자가 GPTZero에 대한 업데이트를 받기 위해 등록했습니다.

GPTZero는 어떻게 작동합니까?

GPTZero는 텍스트의 두 가지 속성인 "당황"과 "폭발성"을 측정하여 AI가 생성한 텍스트를 감지합니다.

“Perplexity는 무작위성의 척도입니다.”라고 Tian은 말합니다. “텍스트가 언어 모델에 얼마나 무작위적이거나 친숙한지를 측정하는 것입니다. 따라서 텍스트의 일부가 매우 무작위적이거나 혼란스럽거나 언어 모델에 익숙하지 않거나 이 언어 모델에 매우 당혹스러운 경우 높은 당혹감을 갖게 되며 인간이 생성한 것일 가능성이 더 큽니다.”

반면에 매우 친숙하고 이전에 AI 언어 모델에서 본 적이 있을 가능성이 있는 텍스트는 당황하지 않고 AI가 생성했을 가능성이 더 큽니다.

"폭발성"은 문장의 복잡성을 의미합니다. 인간은 문장 길이를 달리하고 "폭발"로 쓰는 경향이 있지만 AI 언어 모델은 더 일관성이 있습니다. 이것은 문장을 보면서 차트를 생성하면 볼 수 있습니다. “인간 에세이의 경우모든 곳에. 위아래로 갈 것입니다.”라고 Tian은 말합니다. “갑자기 폭증하고 급증할 것입니다. 반면 기계 에세이의 경우 꽤 지루할 것입니다. 일정한 기준선을 갖게 될 것입니다.”

교육자는 GPTZero를 어떻게 사용할 수 있습니까?

GPTZero의 무료 파일럿 버전은 모든 교육자가 GPTZero 웹사이트 에서 사용할 수 있습니다. Tian은 “현재 모델의 위양성률은 2% 미만입니다.

그러나 그는 교육자들에게 그 결과를 학생이 AI를 사용하여 부정행위를 했다는 증거로 취급하지 말라고 주의를 줍니다. “나는 누구도 결정적인 결정을 내리는 것을 원하지 않습니다. 이것은 제가 휴가 기간 동안 구축한 것입니다."라고 그는 도구에 대해 말합니다.

이 기술에도 한계가 있습니다. 예를 들어 AI와 인간이 생성한 텍스트의 혼합을 감지하도록 설계되지 않았습니다. 교육자는 다음을 수행할 수 있습니다. AI가 생성한 것으로 보이는 텍스트 부분을 강조 표시할 수 있는 기술의 다음 버전에 대한 업데이트를 이메일 목록에 등록하려면 가입하세요. ChatGPT에서 전체 에세이를 복사하기 위해 일부를 섞을 수도 있습니다."라고 그는 말합니다.

기술이 발전함에 따라 GPTZero가 ChatGPT를 따라잡을 수 있습니까?

ChatGPT 및 기타 AI 언어 모델에서도 마찬가지입니다. Tian은 GPTZero 및 기타 AI 탐지 소프트웨어와 같은 기술이 보조를 맞출 것이라고 확신합니다.“탐지 모델을 교육하는 것이 이들 중 하나를 교육하는 것보다 훨씬 쉽습니다.거대한 대형 언어 모델. 이 거대한 대규모 언어 모델 중 하나를 훈련하는 데 수백만 달러가 듭니다.”라고 그는 말합니다. 즉, ChatGPT는 GPTZero처럼 무료 WiFi 커피숍에서 겨울 방학 동안 생성될 수 없습니다.

저널리즘 미성년자이자 인간의 글쓰기를 사랑하는 Tian은 인간적인 글쓰기가 미래에도 가치 있게 남을 것이라고 똑같이 확신합니다.

“이러한 언어 모델은 인터넷의 거대한 부분을 수집하고 역류하는 패턴일 뿐이며 진정으로 독창적인 것은 없습니다."라고 그는 말합니다. "따라서 독창적으로 쓸 수 있다는 것은 중요한 기술로 남을 것입니다."

• ChatGPT란?
• 무료 AI 작문 도구로 몇 분 안에 에세이를 작성할 수 있습니다. 이것이 교사에게 의미하는 바는 무엇입니까?
• AI 작문 프로그램이 개선되고 있습니다. 좋은 일인가요?

이 기사에 대한 피드백과 아이디어를 공유하려면 Tech & 학습 온라인 커뮤니티 .