GPTZero là một công cụ được thiết kế để phát hiện chữ viết do ChatGPT tạo ra, công cụ viết bằng trí tuệ nhân tạo đã ra mắt vào tháng 11 và gây chấn động khắp hệ thống giáo dục do khả năng tạo ra văn bản giống con người ngay lập tức để phản hồi lại nhắc nhở.

GPTZero được tạo ra bởi Edward Tian, ​​sinh viên năm cuối tại Đại học Princeton, chuyên ngành khoa học máy tính và chuyên ngành báo chí. GPTZero có sẵn miễn phí cho giáo viên và những người khác, đồng thời có thể phát hiện công việc do ChatGPT tạo ra trong hơn 98% thời gian, Tian nói với Tech & Học hỏi. Công cụ này là một trong một số công cụ phát hiện mới đã xuất hiện kể từ khi ChatGPT được phát hành.

Tian chia sẻ cách anh tạo ra GPTZero, cách nó hoạt động và cách giáo viên có thể sử dụng nó để ngăn gian lận với ChatGPT trong lớp học của họ.

GPTZero là gì?

Tian được truyền cảm hứng để tạo ra GPTZero sau khi ChatGPT được phát hành và anh cũng như nhiều người khác đã nhìn thấy tiềm năng mà công nghệ này có để hỗ trợ gian lận của học sinh . “Tôi nghĩ công nghệ này là tương lai. AI ở đây để tồn tại,” anh ấy nói. “Nhưng đồng thời, chúng ta phải xây dựng các biện pháp bảo vệ để những công nghệ mới này được áp dụng một cách có trách nhiệm.”

Trước khi phát hành ChatGPT, luận án của Tian tập trung vào việc phát hiện ngôn ngữ do AI tạo ra và anh ấy đã làm việc tại Phòng thí nghiệm xử lý ngôn ngữ tự nhiên của Princeton. Khi kỳ nghỉ đông đến, Tian thấy mình có nhiều thời gian rảnh rỗi và bắt đầumã hóa bằng máy tính xách tay của anh ấy trong quán cà phê để xem liệu anh ấy có thể xây dựng một bộ phát hiện ChatGPT hiệu quả hay không. “Tôi đã nghĩ tại sao mình không xây dựng cái này và xem liệu thế giới có thể sử dụng nó không.”

Thế giới đã rất quan tâm đến việc sử dụng nó. Tian đã được giới thiệu trên NPR và các ấn phẩm quốc gia khác. Hơn 20.000 nhà giáo dục từ khắp nơi trên thế giới và từ K12 đến cao hơn đã đăng ký để nhận thông tin cập nhật về GPTZero.

GPTZero hoạt động như thế nào?

GPTZero phát hiện văn bản do AI tạo ra bằng cách đo hai thuộc tính của văn bản có tên là “độ phức tạp” và “độ bùng nổ”.

“Sự phức tạp là thước đo của sự ngẫu nhiên,” Tian nói. “Đó là phép đo mức độ ngẫu nhiên hoặc mức độ quen thuộc của một văn bản đối với một mô hình ngôn ngữ. Vì vậy, nếu một đoạn văn bản rất ngẫu nhiên, hoặc hỗn loạn hoặc không quen thuộc với mô hình ngôn ngữ, nếu nó rất khó hiểu với mô hình ngôn ngữ này, thì nó sẽ có độ phức tạp cao và có nhiều khả năng là do con người tạo ra.”

Mặt khác, văn bản rất quen thuộc và có thể đã được mô hình ngôn ngữ AI nhìn thấy trước đây sẽ không gây khó hiểu cho nó và có nhiều khả năng là do AI tạo ra.

"Độ dài" đề cập đến độ phức tạp của câu. Con người có xu hướng thay đổi độ dài câu của họ và viết theo kiểu "độ dài", trong khi các mô hình ngôn ngữ AI nhất quán hơn. Điều này có thể thấy được nếu bạn tạo một biểu đồ nhìn vào câu sự thay đổi. “Đối với một bài luận về con người, nó sẽ thay đổikhắp nơi. Nó sẽ lên xuống,” Tian nói. “Chúng sẽ bùng nổ và tăng đột biến, so với một bài luận máy móc, nó sẽ khá nhàm chán. Nó sẽ có một đường cơ sở không đổi.”

Các nhà giáo dục có thể sử dụng GPTZero như thế nào?

Phiên bản thử nghiệm miễn phí của GPTZero có sẵn cho tất cả các nhà giáo dục trên trang web của GPTZero. “Mô hình hiện tại có tỷ lệ dương tính giả dưới 2%,” Tian nói.

Tuy nhiên, ông cảnh báo các nhà giáo dục không coi kết quả của nó là bằng chứng khẳng định một học sinh đã sử dụng AI để gian lận. “Tôi không muốn bất cứ ai đưa ra quyết định dứt khoát. Đây là thứ mà tôi đã xây dựng trong kỳ nghỉ lễ," anh ấy nói về công cụ này.

Công nghệ này cũng có những hạn chế. Chẳng hạn, nó không được thiết kế để phát hiện sự kết hợp giữa văn bản do AI và con người tạo ra. Các nhà giáo dục có thể đăng ký để được đưa vào danh sách email nhận thông tin cập nhật về phiên bản tiếp theo của công nghệ, phiên bản này sẽ có thể làm nổi bật các phần của văn bản dường như được tạo bởi AI. để sao chép toàn bộ bài luận khỏi ChatGPT, nhưng mọi người có thể trộn lẫn các phần vào,” anh nói.

GPTZero có thể theo kịp ChatGPT khi công nghệ được cải thiện không?

Ngay cả khi ChatGPT và các mô hình ngôn ngữ AI khác cải thiện, Tian tự tin rằng công nghệ như GPTZero và phần mềm phát hiện AI khác sẽ theo kịp.các mô hình ngôn ngữ lớn khổng lồ. Ông nói: “Đó là hàng triệu triệu đô la để đào tạo một trong những mô hình ngôn ngữ lớn khổng lồ này. Nói cách khác, ChatGPT không thể được tạo trong kỳ nghỉ đông tại các quán cà phê WiFi miễn phí như GPTZero.

Là một sinh viên báo chí vị thành niên và yêu thích cách viết của con người, Tian cũng tự tin không kém rằng nét văn của con người sẽ vẫn có giá trị trong tương lai.

“Những mô hình ngôn ngữ này chỉ đang tiếp thu những phần khổng lồ của Internet và lặp lại các mẫu, và chúng không tạo ra bất kỳ thứ gì thực sự nguyên bản,” ông nói. “Vì vậy, khả năng viết ban đầu sẽ vẫn là một kỹ năng quan trọng.”

• ChatGPT là gì?
• Công cụ viết AI miễn phí có thể viết bài luận trong vài phút. Điều đó có ý nghĩa gì đối với giáo viên?
• Các chương trình viết AI đang trở nên tốt hơn. Đó có phải là điều tốt không?

Để chia sẻ phản hồi và ý tưởng của bạn về bài viết này, hãy cân nhắc tham gia Tech & Cộng đồng học tập trực tuyến .