Nền tảng khám phá xã hội Yubo triển khai công nghệ kiểm duyệt âm thanh để cải thiện an toàn cho người dùng

Khi nói đến mạng xã hội, tất cả chúng ta đều biết rằng ngoài nhiều lợi ích mà nó mang lại trong việc giúp kết nối dễ dàng hơn, cũng có thể có những rủi ro và nguy hiểm nhất định khi tương tác trực tuyến, đặc biệt là đối với những người trẻ tuổi. Rất may, có những ứng dụng đang chủ động và cố gắng hạn chế những tác hại này có thể đến với những người trẻ tuổi bằng cách triển khai các công nghệ kiểm duyệt phù hợp.

Yubo, ứng dụng khám phá xã hội trực tiếp được Gen Z sử dụng nhiều nhất, đã thông báo rằng công nghệ kiểm duyệt âm thanh phát trực tiếp đang mở rộng sang các thị trường lớn nhất, cụ thể là Hoa Kỳ, Vương quốc Anh, Úc và Canada.

Điều này xảy ra sau vài tháng thử nghiệm tính năng này ở một số khu vực của Hoa Kỳ, vì công ty đã học được cách giải quyết các vấn đề xảy ra khi phân tích âm thanh trong thời gian thực.

Tầm quan trọng của kiểm duyệt nội dung

Kiểm duyệt nội dung trực tuyến là một công việc khó thực hiện. Chúng tôi đã thấy điều này với Facebook, Twitter và Instagram, v.v. Giữa những lời lăng mạ, bình luận thù địch hoặc thậm chí đôi khi là bạo lực hoặc tự làm hại bản thân, việc kiểm duyệt là cực kỳ quan trọng để giữ an toàn cho các nền tảng này và bảo vệ người dùng của họ. Có điều gì đó về việc có thể ẩn đằng sau tính ẩn danh được cho là do internet cung cấp có thể gây ra điều tồi tệ nhất ở một số người.

Chà, Yubo tiếp tục cho thấy rằng họ đang làm mọi thứ có thể để giúp ngăn chặn điều này, đặc biệt là vì cơ sở người dùng của họ trẻ hơn nhiều. Theo Yubo, 99% cơ sở người dùng của họ là Gen Z ở độ tuổi 13-25. Mặc dù hành vi quấy rối trực tuyến không tốt cho bất kỳ ai, nhưng nó có thể đặc biệt gây hại cho thanh thiếu niên.

Công nghệ kiểm duyệt hình ảnh và video đã xuất hiện được một thời gian và đã được triển khai với nhiều giai đoạn thành công khác nhau. Tuy nhiên, kiểm duyệt âm thanh vẫn là một thách thức lớn, đặc biệt là với các luồng trực tiếp. Cho dù đó là luồng trực tiếp được thực hiện khi đang đi bộ trên phố hay luồng ai đó đang chơi trò chơi điện tử, điều đó không thực sự quan trọng.

Cách thức hoạt động của Kiểm duyệt âm thanh của Yubo

Bắt đầu từ tháng 5 năm 2022, Yubo bắt đầu giai đoạn thử nghiệm công nghệ kiểm duyệt âm thanh của mình ở nhiều khu vực trên khắp Hoa Kỳ. Giờ đây, giai đoạn tiếp theo bao gồm hầu hết các khu vực nói tiếng Anh nơi Yubo có cơ sở người dùng lớn để cho phép công ty thu thập thông tin chi tiết hơn về công cụ an toàn mới của họ.

Mặc dù vẫn còn mới nhưng đây là một công nghệ có thể được sử dụng rộng rãi để phát hiện hành vi bạo lực hoặc tự làm hại bản thân trong tương lai.

Yubo không làm tất cả những điều này một mình mà hợp tác với Hive. Hive, nếu bạn chưa từng nghe về họ, là một công ty tạo và cung cấp API kiểm duyệt nội dung để xử lý hình ảnh và video trong thời gian gần như thực.

Công nghệ mà Yubo triển khai hoạt động bằng cách ghi và sao chép các đoạn âm thanh dài 10 giây trong các buổi phát trực tiếp từ 10 người trở lên. Văn bản ngay lập tức được trí tuệ nhân tạo phân tích để phát hiện bất kỳ từ hoặc cụm từ nào vi phạm Nguyên tắc cộng đồng của ứng dụng.

Đợi đã, nó không dừng lại ở đây. Mặc dù trí tuệ nhân tạo có thể rất tuyệt vời trong việc phát hiện những thứ như vậy, nhưng vẫn còn lâu mới có thể phân biệt giữa việc sử dụng thực tế có vấn đề và cờ giả.

Chẳng hạn, cờ sai có thể là các bài hát đang phát trong nền hoặc ngôn ngữ vui tươi không có chủ đích.

Vì vậy, đây là lúc các Chuyên gia An toàn của Yubo phát huy tác dụng, khi họ được cử đến để điều tra các sự cố được gắn cờ. Con người là những người có thể xác định xem một tình huống có cần phải leo thang hay không nếu có những hành động nên được thực hiện đối với những người sử dụng ngôn ngữ xấu hoặc ngay cả khi cần đưa cơ quan thực thi pháp luật vào cuộc.

Nếu luồng trực tiếp hoàn toàn ổn, thì không có bảng điểm nào được xem xét hoặc lưu giữ quá giới hạn 24 giờ, vì vậy tất cả vẫn ở chế độ riêng tư; hoặc riêng tư như phát trực tiếp với hơn 10 người.

Tuy nhiên, nếu các thuật toán phát hiện các mối đe dọa bạo lực, ngôn từ kích động thù địch hoặc hành vi tự làm hại bản thân chẳng hạn, thì bản ghi sẽ được lưu trữ trong tối đa một năm. Tất nhiên, đây là một biện pháp an toàn cho công ty trong trường hợp cơ quan thực thi pháp luật yêu cầu thông tin hoặc bản thân công ty cần thông tin chi tiết cho các cuộc điều tra nội bộ tiếp theo.

Giám đốc điều hành của Yubo, Marc-Antoine Durand, coi việc mở rộng công nghệ kiểm duyệt âm thanh là yếu tố chính trong quá trình phát triển an toàn trực tuyến trên toàn ngành.

“Vẫn còn rất nhiều tiến bộ cần đạt được trong lĩnh vực phát hiện giọng nói, nhưng chúng tôi tự hào đã tạo ra con đường cho các đồng nghiệp của mình bằng cách là người đầu tiên khởi chạy kiểm duyệt âm thanh với Hive và giúp công cụ này trở nên đáng tin cậy và hiệu quả hơn thông qua thử nghiệm này,” Durand nói.

Rõ ràng, các nền tảng xã hội không muốn bắt nạt tràn lan, lời nói căm thù và bình luận kích động bạo lực vì nó sẽ đẩy những người dùng khác ra xa. Việc triển khai công nghệ kiểm duyệt như vậy là một công cụ tuyệt vời để giữ an toàn cho người dùng và cũng giúp đảm bảo sự phát triển và thành công của Yubo trong thời gian dài.