Phản hồi ChatGPT có giới hạn ký tự hoặc từ không?

ChatGPT là một tin tức lớn. Nhưng những phản hồi bạn nhận được từ chatbot đa năng này lớn đến mức nào?

Thiết lập điều này không đơn giản như bạn nghĩ. Đối với người mới bắt đầu, hãy đặt câu hỏi này cho ChatGPT và bạn sẽ yên tâm rằng không có giới hạn nào về độ dài câu trả lời của ChatGPT.

Tuy nhiên, khi chúng tôi phát hiện ra ở đây, nó không đơn giản như vậy. Có các giới hạn ẩn về độ dài của câu trả lời ChatGPT, nhưng cũng có một số cách giải quyết tiện lợi và đơn giản để giúp bạn nhận được câu trả lời dài hơn.

ChatGPT xác định độ dài của phản hồi như thế nào?

Cách thức hoạt động của ChatGPT rất phức tạp và độ dài phản hồi khác nhau tùy thuộc vào nội dung đang được hỏi và mức độ chi tiết được yêu cầu. Như ảnh chụp màn hình tiếp theo hiển thị, ChatGPT tuyên bố không có giới hạn nghiêm ngặt nào.

Đây không phải là những gì chúng tôi tìm thấy. Ví dụ dưới đây cho thấy ChatGPT đột ngột dừng phản hồi giữa câu. Chúng tôi đã yêu cầu nó soạn thảo một bài luận dài hàng nghìn từ về lợi ích của nền kinh tế tuần hoàn. ChatGPT đã ngừng phản hồi khi có tới 677 từ.

Chúng tôi lặp lại bài kiểm tra nhiều lần với các câu hỏi khác nhau và mỗi lần nó dừng lại giữa câu; đôi khi, điều này đi kèm với lỗi mạng. Đây là một lỗi phổ biến và có nhiều cách khác nhau để sửa lỗi mạng trong ChatGPT.

Một phần của câu trả lời về lý do tại sao điều này xảy ra nằm ở thứ gọi là hệ thống mã thông báo.

Hệ thống mã thông báo ChatGPT sử dụng là gì?

Thay vì đếm từ đơn giản để xác định độ dài của cả truy vấn và câu trả lời, ChatGPT sử dụng hệ thống mã thông báo. Điều này chia nhỏ từng đầu vào và đầu ra thành một loạt mã thông báo được sử dụng để phân loại kích thước yêu cầu và phản hồi.

Mặc dù số lượng từ đóng một vai trò trong việc này, nhưng đó không phải là toàn bộ câu chuyện. Chẳng hạn, ví dụ bên dưới đã được nhập vào công cụ Tokenizer của OpenAi.

Câu và câu trả lời đã được “Mã hóa” thành giá trị chín mã thông báo. Điều này phù hợp với “quy tắc ngón tay cái” của OpenAI rằng một mã thông báo tương đương với 3/4 từ.

Mô hình GPT 3.5 hạn chế câu hỏi và dữ liệu của người dùng ở 4.097 mã thông báo. Theo tính toán của OpenAI, điều này tương đương với khoảng 3.000 từ. Tuy nhiên, điều quan trọng cần lưu ý là giới hạn này áp dụng cho cả câu trả lời và câu hỏi.

Mặc dù điều này hoàn toàn ổn và tốt về mặt lý thuyết, nhưng kết quả mà chúng tôi gặp phải không bao giờ đạt đến những giới hạn này. Câu trả lời chưa hoàn chỉnh mà ChatGPT trả về trong thử nghiệm trước đó của chúng tôi chỉ nặng 798 mã thông báo.

Tại sao phản hồi của ChatGPT bị hạn chế?

Công nghệ non trẻ này đã nhanh chóng trở thành công nghệ được nhắc đến nhiều nhất trong thế kỷ này. Điều này đã tạo ra nhu cầu rất lớn đối với ChatGPT. Cuối cùng, nhu cầu này đã hạn chế các phản ứng một cách hiệu quả đến mức thấp hơn nhiều so với các giới hạn đã nêu.

Mặc dù không có xác nhận chính thức nào về điều này, nhưng dường như có giới hạn trên thực tế là khoảng năm trăm từ hoặc 4.000 ký tự.

Xin nhấn mạnh, đây không phải là một quy tắc cố định—chúng tôi đã tạo ra kết quả đầu ra vượt quá quy tắc này gần hai trăm từ. Tuy nhiên, đây có thể được coi là giới hạn trên an toàn để đạt được câu trả lời hoàn chỉnh.

Cách nhận phản hồi dài hơn từ ChatGPT

Sau khi bạn hiểu rằng có một “giới hạn ẩn” đối với phản hồi của ChatGPT, có một số cách đơn giản giúp bạn nhận được phản hồi đầy đủ hơn.

1. Yêu cầu ChatGPT tiếp tục: Nếu ChatGPT dừng giữa chừng khi trả lời, thì một tùy chọn là chỉ cần yêu cầu nó tiếp tục. Trong ví dụ bên dưới, chúng tôi đã nhập “Tiếp tục” và nó đã thêm hai trăm từ khác vào phản hồi.

   

2. Chia câu hỏi của bạn thành các phần nhỏ hơn: Chẳng hạn, chúng tôi đã nhiều lần yêu cầu nó viết một bài luận về tác động của AI đối với xã hội. Mỗi lần phản ứng dừng lại. Một tùy chọn ở đây là yêu cầu nó gạch đầu dòng một số chủ đề cho một bài luận về AI, sau đó sử dụng các gạch đầu dòng được cung cấp làm lời nhắc riêng lẻ.

   

3. Sử dụng tùy chọn Tái tạo: Mặc dù điều này có thể gây ra cùng một lỗi, nhưng không có gì để mất, nhưng nó luôn đáng để thử.
4. Chỉ định giới hạn trên cho số từ của bạn trong lời nhắc của bạn: Hình ảnh bên dưới minh họa cách điều này có thể được sử dụng để điều chỉnh số lượng từ tối đa trong một câu trả lời.

   

Những mẹo này sẽ giúp bạn nhận được câu trả lời đầy đủ hơn từ ChatGPT và vượt qua giới hạn không chính thức về độ dài của câu trả lời.

ChatGPT: Chất lượng hơn số lượng

Mặc dù không có giới hạn nhất định về độ dài phản hồi của ChatGPT, nền tảng dường như áp đặt giới hạn khoảng năm trăm từ hoặc 4.000 ký tự.

Chủ yếu điều này có thể là do nhu cầu rất lớn đối với ChatGPT. Điều này đã dẫn đến câu trả lời không đầy đủ và dừng câu trả lời giữa câu, nhưng có những cách giải quyết đơn giản để giúp bạn nhận được câu trả lời dài hơn.

Bất chấp những hạn chế của nó, ChatGPT vẫn là một bước phát triển công nghệ đáng chú ý sẽ tiếp tục phát triển và mở rộng ranh giới về chất lượng và số lượng của sản phẩm đầu ra.