Facebook cải tiến AI để xóa bỏ phát ngôn gây thù hận

Share on facebook
Share on twitter
Share on linkedin

Mạng xã hội phát triển là nơi con người được tự do bày tỏ ý kiến và quan điểm của mình. Bên cạnh đó, việc tự do ngôn luận trên mạng xã hội sẽ phát sinh nhiều vấn đề khó kiểm soát. Điển hình có thể kể đến là những phát ngôn tiêu cực, làm ảnh hưởng và gây hại đến cộng đồng.
Vì thế, Facebook đã tiến hành công khai đánh giá về việc thực thi tiêu chuẩn cộng đồng của mình cho quý cuối cùng trong năm. Trong bảng báo cáo này, Facebook cung cấp những số liệu thống kê từ tháng 7 – tháng 9 về 12 chính sách vi phạm trên nền tảng Facebook.

Mức độ phổ biến của những phát ngôn thù hận (hate speech)

hatespeech

Lần đầu tiên Facebook tính đến mức độ phổ biến của những phát ngôn tiêu cực trên phạm vi toàn cầu. Trong quý 3 của năm nay, mức độ phổ biến của lời nói gây thù địch từ 0,10% – 0,11%, tương ứng với 10 đến 11 bài viết trong tổng số 10.000 nội dung. Nhờ sự đầu tư vào công nghệ AI, Facebook đã chủ động trong việc loại bỏ các bài viết có tính chất gây thù ghét trước khi chúng bị báo cáo từ người dùng. Những số liệu thực thi của Facebook chứng tỏ Facebook đã nhận ra những nội dung có chứa lời nói căm ghét và bắt đầu hành động. Điều này cho thấy sự tiến bộ của Facebook trong việc xử lý những nội dung độc hại.

Điểm nổi bật trong hành động thực thi

Facebook rà soát

Trong khi dịch covid-19 tiếp tục làm gián đoạn lực lượng kiểm tra nội dung, những cải tiến trong công nghệ AI và việc mở rộng công nghệ phát hiện của Facebook sang nhiều ngôn ngữ khác nhau đã cho thấy hiệu quả của nó. Thậm chí khi năng lực xem xét bị giảm, Facebook vẫn ưu tiên đánh giá những nội dung mang tính chất nhạy cảm, bao gồm nội dung về tự tử, tự hoại, ảnh khỏa thân trẻ em.
Sau đây là những số liệu thống kê cụ thể:
– 22 triệu mẩu tin có chứa nội dung độc hại, khoảng 95% trong số đó bị phát hiện và xóa bỏ.
– 19,2 triệu mẩu tin có nội dung bạo lực.
– 12,4 triệu mẩu tin khai thác nội dung khỏa thân trẻ em và bóc lột tình dục.
– 3,5 triệu mẩu tin có nội dung bắt nạt và quấy rối.

Chia sẻ công khai chính sách bổ sung

Facebook ban hành chính sách mới bổ sung

Facebook cập nhật tiêu chuẩn cộng đồng trên website của mình để bao gồm những yêu cầu ngữ cảnh nhiều hơn. Các chính sách thường yêu cầu các nhóm chuyên môn thu thập thêm thông tin về một vấn đề nhất định để đưa ra quyết định. Ví dụ: trước khi xóa tài khoản của người đã qua đời, Facebook sẽ yêu cầu thông tin bổ sung, thường là từ một thành viên gia đình.

Một số chính sách này đã được công bố trước đây. Ví dụ: chính sách nghiêm cấm đăng thông tin sai lệch và tin đồn không thể xác minh, góp phần vào nguy cơ bạo lực hoặc tổn hại thể chất sắp xảy ra. Và chính sách về việc thêm nhãn cảnh báo cho nội dung nhạy cảm. Chẳng hạn như hình ảnh được đăng bởi một hãng tin mô tả ảnh khỏa thân của trẻ em trong ngữ cảnh về nạn đói, nạn diệt chủng, tội ác chiến tranh hoặc tội ác chống lại loài người. Trong tương lai, Facebook cũng sẽ tiếp tục cập nhật công khai tiêu chuẩn cộng đồng hàng tháng khi các chính sách mới được phát triển yêu cầu bổ sung ngữ cảnh.
Facebook cam kết sẽ tiếp tục cải tiến công nghệ trong nỗ lực xóa bỏ những nội dung có hại khỏi nền tảng của mình và bảo vệ sự an toàn của mọi người khi sử dụng ứng dụng của Facebook.

Việc củng cố tiêu chuẩn cộng đồng của Facebook đã góp phần mang lại một mạng xã hội lành mạnh, các doanh nghiệp từ đó cũng có kế hoạch Marketing phù hợp hơn. Các chính sách kiểm định khắc khe yêu cầu nội dung quảng cáo trên Facebook phải có tính minh bạch, thực tế, hướng về lợi ích người dùng, hạn chế sử dụng các tin mang tính bạo lực, nhạy cảm, tin đồn giật tít không được xác minh…

Hãy là những người sử dụng mạng xã hội thông minh và văn minh nhé!

Nguồn: About.fb.com

Bài viết liên quan

VI
Scroll to Top