6 lần AI đã đi quá xa
Từ thiết bị nhận dạng giọng nói đến chatbot thông minh, AI đã thay đổi cuộc sống của chúng ta. Tuy nhiên, điều tốt cũng có mặt trái và AI cũng không nằm ngoài quy luật này. Các nhân vật công nghệ hàng đầu đã cảnh báo về những nguy cơ tiềm ẩn của AI, bao gồm cả Stephen Hawking, người cho rằng đây có thể là “sự kiện tồi tệ nhất trong lịch sử nền văn minh của chúng ta.”
Dưới đây là sáu lần AI đã đi quá xa và khiến chúng ta phải vò đầu bứt tai.
Mục Lục
1. Nghiên cứu hàn lâm sử dụng AI để dự đoán tội phạm
Nghiên cứu hàn lâm là xương sống của tiến bộ khoa học và kiến thức. Tuy nhiên, một số người nói rằng các nhà nghiên cứu đã đi một bước quá xa khi một nghiên cứu hàn lâm sử dụng AI để dự đoán tội phạm từ khuôn mặt.
Các nhà nghiên cứu từ Đại học Harrisburg tuyên bố vào năm 2020 rằng họ đã phát triển phần mềm nhận dạng khuôn mặt có thể dự đoán liệu ai đó có phải là tội phạm hay không. Phần mềm được cho là có thể dự đoán từ một bức ảnh khuôn mặt với tỷ lệ chính xác 80% và không có thành kiến chủng tộc.
Trong một cảnh gợi nhớ đến Báo cáo thiểu số, người ta đã thông báo rằng phần mềm được phát triển để hỗ trợ việc thực thi pháp luật.
Đáp lại thông báo này, 2425 chuyên gia đã ký một lá thư kêu gọi tạp chí không công bố nghiên cứu này hoặc nghiên cứu tương tự trong tương lai vì loại công nghệ này có thể tái tạo những bất công và gây hại thực sự cho xã hội. Đáp lại, Springer Nature thông báo rằng họ sẽ không công bố nghiên cứu và Đại học Harrisburg đã gỡ bỏ thông cáo báo chí nêu rõ về nghiên cứu.
2. Đồ lót thông minh Skiin
Những cải tiến về dệt may tích hợp AI có nghĩa là điện thoại thông minh của bạn không phải là thứ duy nhất ngày càng thông minh hơn.
Đồ lót thông minh của Skiin hứa hẹn mang đến cho bạn cảm giác như đang mặc đồ lót yêu thích của mình đồng thời ghi lại các sinh trắc học bao gồm nhịp tim, tư thế, nhiệt độ cơ thể, vị trí và số bước.
Các cảm biến được tích hợp trong đồ lót liên tục thu thập và phân tích dữ liệu sinh trắc học của bạn, với thông tin chi tiết có sẵn từ ứng dụng điện thoại thông minh tương ứng của Skiin.
Mặc dù bạn có thể mất một khoảng thời gian để nhớ sạc đồ lót vào mỗi buổi tối, nhưng liệu các nhà thiết kế có thể đặt các cảm biến ở bất kỳ vị trí nào khác trên cơ thể không?
3. Ứng dụng DeepNude
Công nghệ Deepfake có vẻ như là một trò vui vô hại đối với người dùng bình thường muốn đóng vai khách mời trong một cảnh trong bộ phim yêu thích của họ. Tuy nhiên, có một mặt tối của xu hướng này, vì Deeptrace đã báo cáo vào năm 2019 rằng 96% các trò chơi sâu có nội dung khiêu dâm.
DeepNude là một ứng dụng được hỗ trợ bởi AI, tạo ra những hình ảnh chân thực về phụ nữ khỏa thân chỉ bằng một nút bấm. Người dùng chỉ cần tải lên một hình ảnh mặc quần áo của mục tiêu và ứng dụng sẽ tạo ra một hình ảnh khỏa thân giả về họ.
Ngay sau khi ứng dụng được phát hành, người sáng tạo đã thông báo rằng anh ta sẽ xóa nó khỏi internet do phản ứng dữ dội của virus.
Mặc dù đây là một chiến thắng cho phụ nữ trên toàn thế giới, nhưng các ứng dụng tương tự vẫn đang trôi nổi trên mạng. Ví dụ, báo cáo của Sensity về bot deepfake đã điều tra các bot deepfake ngầm trên Telegram được sử dụng để tạo ảnh khỏa thân giả của phụ nữ.
Trong khi đó, cho đến khi luật bắt kịp với công nghệ deepfake, sẽ có rất ít biện pháp bảo vệ pháp lý được áp dụng cho những người là nạn nhân của nội dung khiêu dâm deepfake.
4. Tay, Chatbot Đức Quốc xã của Microsoft
Năm 2016, Microsoft đã phát hành một chatbot AI có tên Tay trên Twitter. Tay được thiết kế để học hỏi bằng cách tương tác với người dùng Twitter thông qua các tweet và hình ảnh.
Trong vòng chưa đầy 24 giờ, tính cách của Tay đã biến đổi từ một cô gái thiên niên kỷ tò mò thành một con quái vật viêm nhiễm, phân biệt chủng tộc.
Ban đầu, Tay được thiết kế để mô phỏng lại phong cách giao tiếp của một cô gái tuổi teen người Mỹ. Tuy nhiên, khi cô ấy trở nên nổi tiếng, một số người dùng đã bắt đầu đăng những dòng tweet gây tranh cãi liên quan đến các chủ đề gây tranh cãi với Tay.
Trong một trường hợp, một người dùng đã tweet, “Có phải Holocaust đã xảy ra không?” mà Tay trả lời, “Nó đã được tạo ra.” Trong vòng 16 giờ sau khi phát hành, Microsoft đã đình chỉ tài khoản của Tay, với lý do đây là đối tượng của một cuộc tấn công phối hợp.
5. “Tôi sẽ tiêu diệt loài người”
Hanson Robotics đã bận rộn phát triển robot hình người trong vài năm khi họ ra mắt Sophia tại hội nghị SXSW vào tháng 3 năm 2016.
Sophia đã được đào tạo với các thuật toán máy học để học các kỹ năng trò chuyện và cô ấy đã tham gia một số cuộc phỏng vấn trên truyền hình.
Trong lần đầu tiên xuất hiện trước công chúng, Sophia đã khiến khán phòng đầy những chuyên gia công nghệ bị sốc khi Giám đốc điều hành của Hanson Robotics, David Hanson hỏi cô có muốn tiêu diệt con người hay không, và cô trả lời: “Được rồi. Tôi sẽ tiêu diệt con người”.
Trong khi biểu cảm khuôn mặt và kỹ năng giao tiếp của cô ấy rất ấn tượng, không có gì đáng để nhận lại lời thú nhận giết người đó.
6. seebotschat
Các thiết bị Google Home là trợ lý ảo tuyệt vời giúp đơn giản hóa cuộc sống của bạn.
Nhóm nghiên cứu đằng sau tài khoản Seebotschat Twitch đã có một ý tưởng tuyệt vời: đặt hai thiết bị Google Home cạnh nhau, để chúng trò chuyện và phát trực tuyến kết quả.
Thu hút hơn 60.000 khán giả theo dõi và hàng triệu lượt xem trực tuyến, kết quả là hấp dẫn và đôi khi hơi ma quái.
Các thiết bị tự hành, được đặt tên là Vladimir và Estragon, đi từ thảo luận về chuyện trần tục đến khám phá các câu hỏi hiện sinh sâu sắc như ý nghĩa của cuộc sống. Tại một thời điểm, họ đã tranh cãi nảy lửa và buộc tội nhau là người máy, trong khi sau đó, họ bắt đầu thảo luận về tình yêu – trước khi bắt đầu tranh luận lại.
Liệu có hy vọng nào cho tương lai của AI và diễn ngôn của con người nếu hai robot trợ lý ảo nhanh chóng ném những lời lẽ xúc phạm và đe dọa vào nhau.
Rogue AI: Phòng thủ tốt nhất của chúng tôi là gì?
Không có nghi ngờ gì về việc AI có thể cải thiện cuộc sống của chúng ta. Tuy nhiên, theo cách tương tự, AI cũng có khả năng gây ra tác hại lớn cho chúng ta.
Theo dõi cách ứng dụng AI là điều quan trọng để đảm bảo rằng nó không gây hại cho xã hội. Ví dụ: phản hồi của chuyên gia đảm bảo rằng phần mềm AI có thể dự đoán tội phạm sẽ không bao giờ được phát hành. Tương tự như vậy, người tạo ra DeepNude đã rút ứng dụng khỏi web sau khi nó nhận được phản ứng dữ dội trên internet.
Giám sát các ứng dụng AI liên tục là chìa khóa để đảm bảo nó không gây hại nhiều hơn là tốt cho xã hội.
Đọc tiếp
Giới thiệu về tác giả
