Ảo giác AI là gì và làm thế nào để bạn phát hiện ra nó?

Ảo giác Trí tuệ nhân tạo (AI) nghe có vẻ khó hiểu. Có lẽ bạn đang nghĩ, “Không phải ảo giác là một hiện tượng của con người sao?” Đúng vậy, nó từng là hiện tượng chỉ có con người thực hiện cho đến khi AI bắt đầu thể hiện các đặc điểm của con người như nhận dạng khuôn mặt, khả năng tự học và nhận dạng giọng nói.

Thật không may, AI đã mang một số thuộc tính tiêu cực, bao gồm cả ảo giác. Vì vậy, ảo giác AI có giống với loại ảo giác mà con người gặp phải không?

Ảo giác AI là gì?

Ảo giác trí tuệ nhân tạo xảy ra khi một mô hình AI tạo ra kết quả đầu ra khác với dự kiến. Lưu ý rằng một số mô hình AI được đào tạo để cố ý tạo ra các đầu ra không liên quan đến bất kỳ đầu vào (dữ liệu) nào trong thế giới thực.

Ví dụ: các trình tạo văn bản thành nghệ thuật AI hàng đầu, chẳng hạn như DALL-E 2, có thể tạo ra các hình ảnh mới lạ một cách sáng tạo mà chúng ta có thể gắn thẻ là “ảo giác” vì chúng không dựa trên dữ liệu trong thế giới thực.

Ảo giác AI trong các mô hình xử lý ngôn ngữ lớn

Hãy xem ảo giác AI sẽ trông như thế nào trong một mô hình xử lý ngôn ngữ lớn như ChatGPT. Ảo giác ChatGPT sẽ dẫn đến việc bot cung cấp cho bạn một sự thật không chính xác với một số khẳng định, do đó bạn sẽ tự nhiên coi những sự thật đó là sự thật.

Nói một cách đơn giản, đó là những câu nói bịa đặt bởi chatbot thông minh nhân tạo. Đây là một ví dụ:

Khi truy vấn thêm, ChatGPT xuất hiện với điều này:

Ảo giác AI trong thị giác máy tính

Hãy xem xét một lĩnh vực AI khác có thể trải nghiệm ảo giác AI: Thị giác máy tính. Bài kiểm tra dưới đây cho thấy một đoạn phim 4×4 với hai thực thể trông rất giống nhau. Những hình ảnh là sự kết hợp của khoai tây chiên BBQ và lá.

Thử thách là chọn khoai tây chiên mà không va vào bất kỳ chiếc lá nào trong đoạn phim. Hình ảnh này có thể trông phức tạp đối với máy tính và có thể không phân biệt được giữa khoai tây chiên BBQ và lá.

Đây là một cách dựng phim khác với sự kết hợp giữa hình ảnh chó xù và bánh bao nhân thịt lợn. Một máy tính rất có thể sẽ không thể phân biệt giữa chúng, do đó trộn các hình ảnh.

Tại sao ảo giác AI xảy ra?

Ảo giác AI có thể xảy ra do các ví dụ đối nghịch—dữ liệu đầu vào đánh lừa ứng dụng AI phân loại sai chúng. Ví dụ: khi đào tạo các ứng dụng AI, các nhà phát triển sử dụng dữ liệu (hình ảnh, văn bản hoặc những thứ khác); nếu dữ liệu bị thay đổi hoặc bị bóp méo, ứng dụng sẽ diễn giải đầu vào theo cách khác, dẫn đến kết quả đầu ra sai.

Ngược lại, con người vẫn có thể nhận dạng và xác định dữ liệu một cách chính xác bất chấp sự biến dạng. Chúng ta có thể coi đây là lẽ thường—một thuộc tính của con người mà AI chưa sở hữu. Xem cách AI bị đánh lừa bằng các ví dụ về đối thủ trong video này:

Đối với các mô hình dựa trên ngôn ngữ lớn như ChatGPT và các giải pháp thay thế của nó, ảo giác có thể phát sinh do giải mã không chính xác từ máy biến áp (mô hình máy học).

Trong AI, máy biến áp là một mô hình học sâu sử dụng khả năng tự chú ý (mối quan hệ ngữ nghĩa giữa các từ trong câu) để tạo ra văn bản tương tự như những gì con người sẽ viết bằng cách sử dụng trình tự mã hóa-giải mã (đầu vào-đầu ra).

Vì vậy, máy biến áp, một mô hình học máy bán giám sát, có thể tạo ra một nội dung văn bản mới (đầu ra) từ kho dữ liệu văn bản lớn được sử dụng trong quá trình đào tạo (đầu vào) của nó. Nó làm như vậy bằng cách dự đoán từ tiếp theo trong một chuỗi dựa trên các từ trước đó.

Liên quan đến ảo giác, nếu một mô hình ngôn ngữ được đào tạo trên dữ liệu và tài nguyên không đầy đủ và không chính xác, thì đầu ra sẽ được tạo ra và không chính xác. Mô hình ngôn ngữ có thể tạo ra một câu chuyện hoặc tường thuật mà không có sự mâu thuẫn logic hoặc các kết nối không rõ ràng.

Trong ví dụ bên dưới, ChatGPT được yêu cầu cung cấp một từ tương tự như “revolt” và bắt đầu bằng chữ “b”. Đây là phản hồi của nó:

Khi thăm dò thêm, nó liên tục đưa ra câu trả lời sai, với độ tin cậy cao.

Vậy tại sao ChatGPT không thể đưa ra câu trả lời chính xác cho những lời nhắc này?

Có thể là mô hình ngôn ngữ không được trang bị để xử lý các lời nhắc khá phức tạp như thế này hoặc nó không thể diễn giải lời nhắc một cách chính xác, bỏ qua lời nhắc về việc đưa ra một từ tương tự với một bảng chữ cái cụ thể.

Làm thế nào để bạn phát hiện ảo giác AI?

Hiện tại, rõ ràng là các ứng dụng AI có khả năng gây ảo giác—tạo ra các phản hồi khác với đầu ra dự kiến ​​(sự thật hoặc sự thật) mà không có bất kỳ mục đích xấu nào. Và việc phát hiện và nhận ra ảo giác AI là tùy thuộc vào người dùng các ứng dụng đó.

Dưới đây là một số cách để phát hiện ảo giác AI khi sử dụng các ứng dụng AI phổ biến:

1. Các mô hình xử lý ngôn ngữ lớn

Mặc dù hiếm gặp, nhưng nếu bạn nhận thấy lỗi ngữ pháp trong nội dung được tạo bởi một mô hình xử lý lớn, chẳng hạn như ChatGPT, điều đó sẽ khiến bạn nhướng mày và nghi ngờ đó là ảo giác. Tương tự, khi nội dung do văn bản tạo ra nghe không hợp lý, không tương quan với ngữ cảnh được cung cấp hoặc khớp với dữ liệu đầu vào, bạn nên nghi ngờ đó là ảo giác.

Sử dụng phán đoán của con người hoặc lẽ thường có thể giúp phát hiện ảo giác, vì con người có thể dễ dàng xác định khi một văn bản không có ý nghĩa hoặc không theo thực tế.

2. Thị giác máy tính

Là một nhánh của trí tuệ nhân tạo, học máy và khoa học máy tính, thị giác máy tính trao quyền cho máy tính nhận dạng và xử lý hình ảnh giống như mắt người. Sử dụng mạng thần kinh tích chập, họ dựa vào lượng dữ liệu hình ảnh đáng kinh ngạc được sử dụng trong quá trình đào tạo của họ.

Sự khác biệt so với các mẫu dữ liệu hình ảnh được sử dụng trong đào tạo sẽ dẫn đến ảo giác. Ví dụ, nếu một máy tính không được đào tạo với hình ảnh của một quả bóng tennis, nó có thể xác định nó là một quả cam màu xanh lá cây. Hoặc nếu máy tính nhận ra con ngựa bên cạnh tượng người là con ngựa bên cạnh người thật, thì ảo giác AI đã xảy ra.

Vì vậy, để phát hiện ảo giác thị giác máy tính, hãy so sánh kết quả được tạo ra với kết quả [normal] con người dự kiến ​​​​sẽ nhìn thấy.

3. Ô tô tự lái

Nhờ AI, xe tự lái đang dần xâm nhập thị trường ô tô. Những người tiên phong như Tesla Autopilot và Ford’s BlueCruise đã vô địch về lĩnh vực ô tô tự lái. Bạn có thể xem cách thức và những gì Tesla Autopilot nhìn thấy để hiểu một chút về cách AI cung cấp năng lượng cho ô tô tự lái.

Nếu sở hữu một trong những chiếc xe như vậy, bạn sẽ muốn biết liệu chiếc xe AI của mình có bị ảo giác hay không. Một dấu hiệu sẽ là nếu phương tiện của bạn dường như đang đi chệch khỏi các kiểu hành vi bình thường khi lái xe. Ví dụ: nếu xe phanh hoặc chuyển hướng đột ngột mà không có lý do rõ ràng, phương tiện AI của bạn có thể bị ảo giác.

Hệ thống AI cũng có thể gây ảo giác

Con người và mô hình AI trải nghiệm ảo giác khác nhau. Khi nói đến AI, ảo giác đề cập đến các kết quả đầu ra sai lệch khác xa với thực tế hoặc không có ý nghĩa trong bối cảnh của lời nhắc đã cho. Ví dụ: một chatbot AI có thể đưa ra phản hồi sai ngữ pháp hoặc logic hoặc xác định sai một đối tượng do tiếng ồn hoặc các yếu tố cấu trúc khác.

Ảo giác AI không phải là kết quả của ý thức hay tiềm thức, như bạn có thể quan sát thấy ở con người. Thay vào đó, nó là kết quả của việc thiếu hoặc không đủ dữ liệu được sử dụng trong đào tạo và lập trình hệ thống AI.