OpenAI ra mắt Công cụ phát hiện AI để chống lại văn bản do ChatGPT tạo

ChatGPT đang rất thịnh hành, nhưng nó không phổ biến với tất cả mọi người, đặc biệt là những người phải phát hiện ra nó khi sử dụng.

Chatbot tự động hỗ trợ AI của OpenAI, ChatGPT, đã gây bão trên Internet, nhưng không phải không tạo ra một số vấn đề trong quá trình thực hiện. Với các nhà văn, lập trình viên, nhà tiếp thị và dường như tất cả những người khác đang sử dụng ChatGPT để tạo nội dung, các công ty trên toàn thế giới đang theo dõi cơn sóng thần nội dung do AI tạo ra.

Với các vấn đề về đạo văn và nội dung bị đánh cắp liên tục xoay quanh ChatGPT và đầu ra của nó, OpenAI hiện đã phát hành GPT-Classifier mới, một công cụ được thiết kế để phát hiện và tiết lộ liệu văn bản bạn đang đọc là tác phẩm của ChatGPT hay một trong những GPT khác của nó công cụ.

OpenAI ra mắt GPT-Classifier để giúp kiểm tra văn bản do AI viết

Thông báo của OpenAI được đưa ra khi việc xem xét kỹ lưỡng văn bản do AI tạo và viết bằng AI tăng lên và các công ty tích hợp đầu ra ChatGPT.

Trình phân loại GPT mới cố gắng tìm hiểu xem một đoạn văn bản nhất định là do con người viết hay tác phẩm của một trình tạo AI. Mặc dù ChatGPT và các mô hình GPT khác được đào tạo chuyên sâu về tất cả các cách nhập văn bản, nhưng công cụ GPT-Classifier được “tinh chỉnh trên tập dữ liệu gồm các cặp văn bản do con người viết và văn bản do AI viết về cùng một chủ đề.”

Vì vậy, thay vì thu thập thông tin và tạo lại giá trị gần đúng nhất của nó, Trình phân loại GPT cố gắng so sánh những điểm tương đồng giữa văn bản con người đã biết và văn bản AI đã biết để tìm ra sự khác biệt tiết lộ người viết nguồn.

Khả năng phát hiện của GPT-Classifier hiện bị hạn chế

Mặc dù ý tưởng về việc dễ dàng phát hiện văn bản do AI tạo ra sẽ rất dễ nghe đối với các biên tập viên và nhà giáo dục, OpenAI đã cảnh báo rằng “bộ phân loại của nó không hoàn toàn đáng tin cậy.”

Hiện tại, GPT-Classifier “xác định chính xác 26% văn bản do AI viết” trong khi gắn nhãn 9% văn bản của con người là do AI viết. OpenAI cũng lưu ý rằng độ chính xác của công cụ “thường được cải thiện khi độ dài của văn bản đầu vào tăng lên.”

Một thử nghiệm ngắn gọn của GPT-Classifier đã phát hiện ra một ví dụ do con người tạo ra và đánh dấu nó là “rất có khả năng là do AI tạo ra”, đồng thời cũng chỉ ra chính xác rằng một đoạn mã do ChatGPT tạo ra trên các vấn đề về USB là “có thể do AI tạo ra”.

Nhu cầu phát hiện ChatGPT cao

Ngay cả với những hạn chế của GPT-Classifier, nhu cầu phát hiện ChatGPT đáng tin cậy có thể sẽ khiến nhiều người chuyển sang sử dụng công cụ này. Cam kết của OpenAI trong việc xây dựng và phát hành công cụ phát hiện GPT miễn phí là rất quan trọng vì khi càng nhiều sinh viên, nhà văn, lập trình viên và những người khác sử dụng các công cụ tạo văn bản AI, thì việc hiểu và phát hiện đầu vào này sẽ trở nên quan trọng.

Hiện tại, mặc dù GPT-Classifier đã được thiết lập và chạy và có sẵn để thử nghiệm, nhưng tốt nhất bạn nên thận trọng với việc dán nhãn của nó.