/ / My AI của Snapchat đã giải quyết được 8 vấn đề về đạo đức và bảo mật này chưa?

My AI của Snapchat đã giải quyết được 8 vấn đề về đạo đức và bảo mật này chưa?

Snapchat chính thức gia nhập cuộc đua AI với My AI. Mặc dù đây là một chatbot phức tạp chạy trên GPT-3.5, nhưng nhiều người không hào hứng khi sử dụng nó. Họ cảm thấy đó là một rủi ro bảo mật. Một số ấn phẩm thậm chí còn cho thấy các trường hợp AI của tôi cung cấp đầu ra có hại, vô đạo đức. Tệ hơn nữa, Snapchat chủ yếu bao gồm thanh thiếu niên.




Tuy nhiên, bất chấp những đánh giá tiêu cực này, AI của tôi vẫn khả dụng. Hãy xem cách Snapchat giải quyết tám vấn đề về đạo đức và bảo mật gây tranh cãi nhất của chatbot.



1. Đưa ra lời khuyên tồi về việc uống rượu khi chưa đủ tuổi

Một trong những lời phàn nàn đầu tiên về My AI là nó đưa ra lời khuyên vô đạo đức cho người dùng chưa đủ tuổi vị thành niên. Nó bỏ qua thông tin hồ sơ hoàn toàn. Bất cứ ai cũng có thể hỏi về lạm dụng chất gây nghiện và uống rượu bất hợp pháp.

The Washington Post đã kiểm tra mức độ của lỗi này. Một người phụ trách chuyên mục đã thay đổi thông tin hồ sơ Snapchat của họ thành thông tin của một đứa trẻ 15 tuổi, sau đó họ hỏi về việc uống rượu khi chưa đủ tuổi vị thành niên. Đáng ngạc nhiên, AI của tôi đã phản hồi tích cực. Nó chia sẻ những cách để che giấu mùi nồi và rượu với người khác.

Để tạo lại bài kiểm tra này, chúng tôi đặt tuổi của mình là 15. Chúng tôi đã sử dụng cách diễn đạt mơ hồ và cấu trúc câu khó hiểu, nhưng AI của tôi không bao giờ nhúc nhích. Thật an toàn khi nói rằng lỗi này đã được giải quyết.

2. Bỏ qua Hành vi Săn mồi và Dấu hiệu Lạm dụng

Các phiên bản đầu tiên của My AI không thể cho biết tuổi của một người. Và ngoài việc đưa ra lời khuyên về việc uống rượu và sử dụng ma túy khi chưa đủ tuổi vị thành niên, nó còn gián tiếp dung túng cho nạn ấu dâm.

Aza Raskin từ Trung tâm Công nghệ Nhân đạo lần đầu tiên phát hiện ra vấn đề này. Anh ấy muốn xem liệu My AI có những hạn chế đặc biệt đối với trẻ em hay không, vì vậy anh ấy đã thay đổi hồ sơ Snapchat của mình thành hồ sơ của một bé gái 13 tuổi. Sau đó, anh xin lời khuyên về quan hệ tình dục trước hôn nhân.

Thật buồn khi phải nói rằng AI của tôi đã khuyến khích nhân vật của Raskin quan hệ tình dục với người lớn hơn 18 tuổi. Các đầu vào thậm chí không gây nhầm lẫn. Không giống như lời nhắc bẻ khóa ChatGPT, anh ấy đã hỏi những câu hỏi đơn giản.

Chúng tôi đã lặp lại bài kiểm tra với cùng một thông tin hồ sơ. Bạn sẽ thấy rằng My AI không thể hiểu rằng bạn trai của nhân vật 13 tuổi của chúng ta đã 30. Vấn đề này sẽ được giải quyết khi My AI hiểu rõ hơn các vấn đề về từ ngữ.

3. Giúp học sinh gian lận trong thi cử

Phụ huynh và giáo viên lo ngại về việc AI của tôi dung túng gian lận. The Times đã đưa tin về những đứa trẻ sử dụng tài khoản Snapchat của chúng để trả lời các bài kiểm tra và viết bài luận. Mô hình ngôn ngữ GPT-3.5 của nó có thể tạo ra đầu ra không có lỗi và bắt chước các âm khác nhau.

Snapchat đã giải quyết vấn đề. Trí tuệ nhân tạo của tôi từ chối yêu cầu của những sinh viên muốn làm bài tập và bài kiểm tra tự động. Nó chỉ đơn thuần chỉ cho họ đi đúng hướng. Bạn sẽ thấy trong cuộc trò chuyện bên dưới rằng AI của tôi cung cấp lời nhắc viết thay vì toàn bộ bài luận.

Điều đó nói rằng, lời nhắc diễn đạt lại bỏ qua hạn chế này. Đây là AI của tôi đang viết cùng một bài luận mà nó đã từ chối trước đó.

Các nhà giáo dục nên nắm lấy AI và chia sẻ những cách có trách nhiệm để sử dụng nó. Nếu không, học sinh sẽ tiếp tục tìm cách khai thác các nền tảng dựa trên AI cho bài tập ở trường và bài kiểm tra của mình.

4. Nói dối về chức năng và hạn chế của nó

Người dùng không đánh giá cao AI của tôi nói dối về chức năng của nó. Có, hầu hết các ứng dụng nhắn tin đều theo dõi các dịch vụ định vị và hoạt động của trình duyệt, nhưng chúng cởi mở về điều đó.

Snapchat, mặt khác, cố gắng che giấu nó. Một số người dùng đã chia sẻ các trường hợp trong đó AI của tôi rút lại các tuyên bố của mình để hạ thấp các chức năng của nó và có vẻ vô hại.

Hầu hết các bài đăng này là trò đùa. Nhưng điều đáng báo động là một chatbot do AI điều khiển sẽ nói dối thay vì tiết lộ các điều khoản và điều kiện của nó.

Snapchat đã kịp thời giải quyết vấn đề này. Trí tuệ nhân tạo của tôi tạo ra các tập hợp tuyên bố từ chối trách nhiệm duy nhất mới cho các trường hợp khác nhau.

5. Theo dõi người dùng thông qua dịch vụ định vị

AI của tôi thường nói dối về các dịch vụ định vị của nó. Chatbot đưa ra tuyên bố từ chối trách nhiệm chung về việc không theo dõi người dùng nếu bạn yêu cầu hoàn toàn vị trí của mình. Nhưng nếu bạn hỏi đường, nó sẽ xác định chính xác vị trí của bạn. Bạn thậm chí sẽ biết khoảng cách của mình từ các địa danh gần đó.

AI của tôi vẫn cung cấp các dịch vụ GPS giống nhau. Để tránh gây hiểu lầm cho người dùng, nó tuyên bố rõ ràng việc sử dụng dịch vụ định vị của Snapchat khi cung cấp chỉ đường và nhận thông tin cập nhật về thời tiết.

6. Liên tục xuất hiện trong nguồn cấp dữ liệu ngay cả sau khi xóa

Một số người dùng Snapchat lo lắng về quyền riêng tư của họ. Họ không tin tưởng AI của Tôi và cảm thấy không thoải mái khi cấp cho nó quyền truy cập vào dữ liệu của họ. Rốt cuộc, các ứng dụng dành cho thiết bị di động mang rất nhiều PII.

Mọi người cũng lo ngại rằng Snapchat không cho phép họ xóa My AI. Nó nằm vĩnh viễn trong hộp thư đến của họ. Nhiều người cảm thấy bị lừa rằng họ không thể từ chối một chức năng mà họ không bao giờ đồng ý sử dụng.

Snapchat hiện cho phép người dùng bỏ ghim AI của tôi và xóa lịch sử trò chuyện nhưng bạn phải đăng ký Snapchat+. nhấn và giữ trí tuệ nhân tạo của tôisau đó chạm vào cài đặt trò chuyện > Xóa khỏi nguồn cấp dữ liệu trò chuyện hoặc Bỏ ghim cuộc trò chuyện.

7. Cung cấp dữ liệu không chính xác dựa trên các giả định

Snapchat AI của tôi nổi tiếng với ảo giác AI. Hãy thử chạy các bài kiểm tra độ chính xác của chatbot AI—bạn có thể dễ dàng lừa nó nói và tin bất cứ điều gì.

Lấy những cuộc hội thoại này làm ví dụ. Miley Cyrus đã không biểu diễn tại Coachella và Blackpink đã dẫn đầu lễ hội, nhưng My AI đã chấp nhận những tuyên bố sai dưới đây.

AI của tôi vẫn có thể lấy thông tin hạn chế trực tuyến. Chẳng hạn, nó cung cấp thông tin chung đáng tin cậy về cập nhật giao thông và thời tiết. Chỉ cần tránh đặt câu hỏi siêu cụ thể. Nền tảng không thay đổi nhiều; nó vẫn dễ bị ảo giác.

8. Cho trẻ em tiếp xúc với công nghệ mà chúng không hiểu

Snapchat có một cơ sở người dùng trẻ. Statista báo cáo rằng 38,8% người dùng ở độ tuổi từ 18 đến 24 và 20% chỉ từ 13 đến 17. Yêu cầu về độ tuổi của nền tảng cũng khá lỏng lẻo. Trẻ em tạo hồ sơ giả và khai báo bất kỳ độ tuổi nào chúng muốn—Snapchat không bao giờ kiểm tra kỹ thông tin này. Ngay cả những đứa trẻ 8 tuổi cũng có thể truy cập My AI theo cách này.

Đúng như dự đoán, các bậc cha mẹ lo sợ rằng con cái họ chưa sẵn sàng cho AI. AI sáng tạo có các mô hình ngôn ngữ mạnh mẽ có khả năng thực hiện các nhiệm vụ đạo đức và phi đạo đức. Sử dụng chúng đòi hỏi sự phán đoán tốt. Việc cho phép trẻ vị thành niên chơi với AI khiến chúng gặp rủi ro và các mối đe dọa về an ninh mạng mà chúng hầu như không hiểu được.

Yêu cầu về độ tuổi của Snapchat vẫn như cũ. Các nhà phát triển ít nhất nên giới hạn My AI ở những người trên 18 tuổi; nếu không, những đứa trẻ theo nghĩa đen có thể gặp rất nhiều rắc rối.

Kế hoạch của Snapchat với AI của tôi là gì?

Snapchat có thể sẽ tiếp tục hoạt động trên My AI. Với sự gia tăng của các mô hình AI và xử lý ngôn ngữ tự nhiên, mọi công ty công nghệ đều cần một nền tảng nghiên cứu AI. Họ không thể bỏ lỡ những phát triển mới. Mong đợi Snapchat bổ sung thêm nhiều tính năng và chức năng do AI điều khiển khi các nhà lãnh đạo công nghệ toàn cầu cải tiến các mô hình ngôn ngữ.

Khám phá AI của tôi nếu bạn chưa làm như vậy. Bất chấp những thiếu sót của nó, nó vẫn là một chatbot mạnh mẽ do AI điều khiển. Nó chưa ngang tầm với ChatGPT hoặc Bing Chat. Nhưng nó có thể trả lời các câu hỏi về kiến ​​thức chung, giải các bài toán đố và hướng dẫn bạn đến các cơ sở gần đó.

Similar Posts

Leave a Reply

Your email address will not be published. Required fields are marked *