/ / Tại sao Facebook sử dụng Instagram để đào tạo AI lại nâng cao cờ bảo mật

Tại sao Facebook sử dụng Instagram để đào tạo AI lại nâng cao cờ bảo mật

Bài học rút ra chính

  • Các chuyên gia về quyền riêng tư đang gây lo ngại về việc Facebook sử dụng ảnh Instagram công khai để đào tạo trí tuệ nhân tạo.
  • Chương trình được dạy để nhận dạng hình ảnh bằng cách cho máy tính xem hơn 1 tỷ bức ảnh công khai.
  • Chính sách bảo mật của Instagram bao gồm một phần cho phép người dùng biết thông tin có thể được sử dụng trong nghiên cứu và phát triển.

John Lamb / Getty Hình ảnh

Việc Facebook sử dụng ảnh Instagram để huấn luyện trí tuệ nhân tạo đang làm dấy lên những lo ngại về quyền riêng tư.


Người khổng lồ truyền thông xã hội gần đây đã thông báo rằng họ đã xây dựng phần mềm có thể học hỏi từ những gì họ đang xem. Chương trình được dạy để nhận dạng hình ảnh bằng cách xem xét hơn 1 tỷ bức ảnh công khai. Các chuyên gia cho rằng người dùng nên biết rằng Facebook đang sử dụng hình ảnh của họ.


James E. Lee, giám đốc điều hành của Trung tâm Tài nguyên Trộm cắp Danh tính, cho biết trong một cuộc phỏng vấn qua email: “Tất cả chỉ là biết được sự đồng ý.


“Chính sách quyền riêng tư của Instagram — mà hầu hết mọi người có thể không đọc — nêu rất rõ ràng rằng công ty có quyền sử dụng ảnh bạn đăng để nghiên cứu. Người dùng có thể bật / tắt tính năng nhận dạng khuôn mặt trong cài đặt quyền riêng tư của họ.”



Tốt hơn phần còn lại

Công ty tuyên bố rằng chương trình của Facebook, có biệt danh là SEER dành cho các mô hình trí tuệ nhân tạo (AI) do SElf hỗ trợ, đã vượt qua các mô hình trí tuệ nhân tạo (AI) khác trong một bài kiểm tra nhận dạng đối tượng. Chương trình đã đạt được “điểm chính xác phân loại” là 84,2% khi nó được thực hiện qua một bài kiểm tra để kiểm tra xem chương trình AI có thể xác định những gì trong một bức ảnh hay không.


Công ty cho biết trong một bài đăng trên blog: “Hiệu suất của SEER chứng minh rằng học tập tự giám sát có thể vượt trội trong các nhiệm vụ về thị giác máy tính trong môi trường thực tế,” công ty cho biết trong một bài đăng trên blog.


“Đây là một bước đột phá cuối cùng mở ra con đường cho các mô hình thị giác máy tính linh hoạt, chính xác và thích ứng hơn trong tương lai.”


“Mặc dù các điều khoản và điều kiện của Facebook có thể cho phép họ tận dụng dữ liệu người dùng theo cách như vậy, nhưng hầu hết người dùng không nhận thức rõ ràng và chủ động dữ liệu của họ đang được khai thác cho các mục đích như vậy.”

Nếu nó được tung ra thị trường, SEER sẽ giúp xác định các đối tượng – không phải con người – mà không cần được lập trình để biết thông qua nhãn có gì trong ảnh, Lee nói. Ông nói thêm: “Đó là một cách hiệu quả hơn và nhanh hơn so với phương pháp hiện tại yêu cầu bộ dữ liệu khổng lồ để khớp một đối tượng với danh tính của nó.


“Luôn có khả năng bị lạm dụng, nhưng cũng có những lợi ích tiềm năng hợp pháp của loại công nghệ này.”


Chương trình của Facebook có thể giúp công ty cải thiện nội dung cảnh sát vi phạm chính sách của họ, chẳng hạn như hạn chế việc tiếp xúc không mong muốn với các hình ảnh khiêu dâm hoặc đồ họa, Aimee O’Driscoll, một nhà nghiên cứu bảo mật tại trang web riêng tư Comparitech, cho biết trong một cuộc phỏng vấn qua email. Nó cũng có thể được sử dụng để tự động mô tả hình ảnh, cải thiện trải nghiệm người dùng cho những người bị khiếm thị.



Bạn đã đồng ý với chương trình này

Chính sách bảo mật của Instagram bao gồm một phần cho phép người dùng biết thông tin có thể được sử dụng trong nghiên cứu và phát triển. O’Driscoll cho biết: “Công ty đang sử dụng kho dữ liệu của mình cho một phần khác của hoạt động kinh doanh, tương tự như cách họ sử dụng dữ liệu người dùng để cung cấp cho hoạt động kinh doanh quảng cáo của mình”.


“Mặc dù vậy, người dùng vẫn có thể cảm thấy không thoải mái với việc hình ảnh của họ bị sử dụng theo cách này.”


Yashar Behzadi, Giám đốc điều hành của Synthesis AI, một công ty sử dụng trí thông minh nhân tạo cho thị giác máy tính, cho biết những tiến bộ AI mới nhất của Facebook thể hiện một “sự cải thiện đáng kể” về khả năng thị giác máy tính.


“Người dùng có thể mong đợi việc gắn thẻ hình ảnh và tìm kiếm theo ngữ cảnh tốt hơn, trong khi các nhà quảng cáo sẽ được lợi từ việc nhắm mục tiêu người dùng chính xác hơn”, ông nói thêm.


Nhưng cách tiếp cận của Facebook trong việc tận dụng hàng tỷ hình ảnh trên Instagram làm dấy lên một số lo ngại nghiêm trọng về quyền riêng tư và quy định, Behzadi nói.


John M Lund Photography Inc / Getty Images

“Mặc dù các điều khoản và điều kiện của Facebook có thể cho phép họ tận dụng dữ liệu người dùng theo cách như vậy, nhưng hầu hết người dùng không nhận thức rõ ràng và chủ động dữ liệu của họ đang được khai thác cho các mục đích như vậy”, ông nói.


“Chúng tôi tin rằng các công ty nên thẳng thắn và minh bạch hơn với người dùng, cho phép họ toàn quyền kiểm soát dữ liệu của mình.”


Nhiều công ty khác đã sử dụng trí thông minh nhân tạo để xác định nội dung của hình ảnh, Bobby Gill, Giám đốc điều hành của nhà phát triển ứng dụng Blue Label Labs, chỉ ra trong một cuộc phỏng vấn qua email. “Tuy nhiên, thực tế là điều này gần như chắc chắn sẽ được sử dụng để tiếp thị mới là điều đáng lo ngại”, ông nói thêm.


Gill cho biết, chương trình mới có thể làm dấy lên những lo ngại về quyền riêng tư, tùy thuộc vào cách Facebook có kế hoạch sử dụng hệ thống.


Ông nói: “Dữ liệu này có thể có thể truy cập được đối với các nhà tiếp thị kỹ thuật, những người sẽ sử dụng nó để xác định các xu hướng nhất định dựa trên các yếu tố khác nhau được xác định trong một hình ảnh.


“Ví dụ: có thể lấy thông tin từ hình ảnh mà mọi người đăng sẽ thêm một chiều hướng khác cho các hệ thống liên kết thường sử dụng hành vi để lập hồ sơ và nhắm mục tiêu các cá nhân. Có thể biết rằng bất kỳ ai có, chẳng hạn như ếch trong 3-7% hình ảnh của họ có nhiều khả năng mua thiết bị tập thể dục tại nhà. ”


Similar Posts

Leave a Reply

Your email address will not be published. Required fields are marked *