ChatGPT có đáng tin cậy hay ChatGPT có nói dối không?

Ngày nay, ChatGPT được hàng triệu người tin dùng như một tài nguyên hữu ích, cho công việc, giải trí hoặc giáo dục. Nhưng bạn có thể dựa vào chatbot AI này để luôn cung cấp sự thật không? ChatGPT có bao giờ nói dối hay nó chỉ cung cấp cho bạn thông tin thực tế?

ChatGPT lấy thông tin từ đâu?

Trong giai đoạn đào tạo, ChatGPT được cung cấp dữ liệu từ các nguồn trên web, chẳng hạn như trang web của chính phủ và cơ quan, tạp chí khoa học, nghiên cứu, bài báo, podcast, diễn đàn trực tuyến, sách, cơ sở dữ liệu, phim, phim tài liệu và mạng xã hội.

Cụ thể, ChatGPT-3 đã được đào tạo bằng cách sử dụng cơ sở dữ liệu thông tin mở rộng lên tới 570GB dữ liệu. Như đã nêu trong một bài báo từ Science Focus, 300 tỷ từ thông tin đã được đưa vào hệ thống GPT-3 trong quá trình phát triển hệ thống.

Điều đáng chú ý ở đây là ChatGPT chỉ được cung cấp dữ liệu tồn tại trước năm 2021. Điều này có nghĩa là chatbot không thể trả lời các câu hỏi liên quan đến các sự kiện gần đây. ChatGPT cũng không có quyền truy cập internet. Dữ liệu nó được cung cấp trong quá trình đào tạo là loại duy nhất nó sử dụng để đáp ứng lời nhắc của người dùng.

Nhưng ChatGPT chỉ cung cấp cho bạn sự thật hay một số thông tin mơ hồ hơn được trộn lẫn với các phản hồi của nó? Ngoài ra, ChatGPT có thể nói dối bạn không?

ChatGPT có nói dối không?

Mặc dù ChatGPT thường cung cấp thông tin trung thực cho người dùng nhưng nó cũng có khả năng “nói dối”. Tất nhiên, ChatGPT không quyết định lừa dối người dùng một cách ác ý, vì đơn giản là nó không thể làm như vậy. Xét cho cùng, ChatGPT là một công cụ xử lý ngôn ngữ, không phải là sự bắt chước của một người thực, có tri giác.

Tuy nhiên, ChatGPT về mặt kỹ thuật vẫn có thể nói dối thông qua một hiện tượng được gọi là ảo giác AI.

Ảo giác AI liên quan đến một hệ thống AI cung cấp thông tin có vẻ hợp lý hoặc hợp lý, nhưng trên thực tế, hoàn toàn không đúng. Trên thực tế, ảo giác AI có thể cung cấp thông tin mà nó chưa bao giờ được cung cấp trong quá trình đào tạo. Ngoài ra, nó có thể xảy ra khi hệ thống AI cung cấp thông tin không liên quan đến lời nhắc hoặc yêu cầu. Một hệ thống AI thậm chí có thể tự xưng là con người trong một sự kiện ảo giác.

Các hệ thống AI, chẳng hạn như chatbot, rơi vào bẫy ảo giác vì một số lý do: thiếu hiểu biết về thế giới thực, lỗi phần mềm và hạn chế về dữ liệu được cung cấp.

Như đã nêu trước đây, ChatGPT chỉ có thể cung cấp thông tin bằng cách sử dụng dữ liệu được xuất bản cho đến năm 2021, điều này chắc chắn hạn chế những loại lời nhắc mà nó có thể thực hiện.

Một trong những vấn đề lớn của ChatGPT là nó cũng có thể trở thành nạn nhân của sự thiên vị khi cung cấp thông tin cho người dùng. Ngay cả những người tạo ra ChatGPT cũng đã tuyên bố rằng hệ thống AI đã “thiên vị chính trị, gây khó chịu” và “có thể bị phản đối” trong quá khứ. Theo báo cáo của The Independent, các nhà phát triển của ChatGPT cam kết giải quyết vấn đề này, nhưng điều đó không có nghĩa là nó không còn gây rủi ro nữa.

Khi được hỏi, ChatGPT cho biết những lý do khiến nó có thể cung cấp thông tin không chính xác bao gồm:

• Sự mơ hồ trong câu hỏi (nhắc nhở mơ hồ, không rõ ràng);
• thông tin cung cấp không đầy đủ;
• Thông tin sai lệch hoặc không chính xác được cung cấp; hoặc,
• Hạn chế kỹ thuật (chủ yếu là do thiếu quyền truy cập vào dữ liệu hiện tại).

Vì vậy, bản thân ChatGPT đã tuyên bố rằng có những tình huống mà nó sẽ không cung cấp thông tin chính xác cho người dùng.

Trong một phản hồi khác trong cùng một cuộc trò chuyện, ChatGPT tuyên bố rằng “bạn nên xác minh bất kỳ thông tin nào [it provides] với các nguồn khác.”

Bạn có thể tin tưởng ChatGPT không?

Vì nó có thể cung cấp thông tin sai lệch nên rõ ràng bạn không thể tin tưởng ChatGPT 100% mọi lúc.

Bạn có thể giảm nguy cơ ảo giác chatbot AI bằng cách đặt các tham số cụ thể về cách nó có thể trả lời bạn. Tuy nhiên, vẫn không có gì đảm bảo rằng một số thông tin sai lệch sẽ không lọt qua kẽ hở.

Do đó, tốt nhất bạn nên kiểm tra mọi thông tin mà ChatGPT cung cấp cho bạn, đặc biệt nếu bạn đang yêu cầu thông tin về các sự kiện gần đây. Kiểm tra kỹ dữ liệu này bằng cách tham khảo các nguồn khác có thể giúp bạn xác định xem ChatGPT có đúng với nội dung đang nói hay không và có thể ngăn bạn đưa ra các quyết định thiếu sáng suốt hay không.

ChatGPT hữu ích nhưng không phải lúc nào cũng trung thực

Thật không may, bạn không thể dựa vào ChatGPT để cung cấp thông tin trung thực, không thiên vị 100% mọi lúc. Không thể phủ nhận chatbot do AI cung cấp này hữu ích và có thể giúp bạn theo nhiều cách khác nhau, nhưng luôn đáng để xác minh xem thông tin mà nó cung cấp có đúng sự thật hay không.