Facebook quyết ngăn chặn hành vi khiêu dâm bằng AI

Trong một thông báo đăng tải trên blog, Trưởng bộ phận An toàn toàn cầu Antigone Davis của Facebook cho biết mạng xã hội lớn nhất thế giới đang có những bước đi chắc chắn trong việc chủ động kiểm tra, phát hiện những hình ảnh hoặc video có nội dung hận thù hay trả thù khiêu dâm bằng công cụ kiểm tra trí tuệ nhân tạo (AI).

Công cụ AI của Facebook sẽ tự động gắn cờ cảnh báo đồng thời hệ thống sẽ tìm thấy tất cả nội dung vừa nêu trước khi nó được báo cáo. Điều này rất quan trọng vì 2 lý do: Nạn nhân thường sợ bị trả thù nên có thể họ sẽ báo cáo một cách miễn cưỡng hoặc không biết rằng nội dung này đã được chia sẻ. 

Một khi AI đã phát hiện ra nội dung nhạy cảm, ảnh video sẽ bị đánh dấu để nhóm điều hành xem xét. Tuy nhiên, hiện vẫn chưa rõ Facebook sẽ hiểu "hình ảnh thân mật được đăng tải mà không có sự đồng ý" như thế nào và công cụ phát hiện chúng sẽ hiệu quả ra sao. 

Với công cụ kiểm tra bằng AI, Facebook tự tin rằng mọi nội dung thù hận hay trả thù khiêu dâm sẽ sớm bị phát hiện và loại bỏ thay vì việc phải chờ đợi từ những báo cáo của người dùng. Điều đó cũng đồng nghĩa những nạn nhân của sự trả thù khiêu dâm sẽ sớm thoát khỏi hành động thù hận này.

Cách đây gần 1 năm, Facebook đã tiến hành một chương trình thí điểm cho phép người dùng mạng xã hội này tải lên và đánh dấu các hình ảnh mà họ sợ có thể được đăng lên để trả thù khiêu dâm. Chương trình thí điểm ban đầu chỉ được áp dụng tại Australia, nay đã được mở rộng tới Mỹ, Vương quốc Anh và Canada.

Ngoài ra, công cụ mới cũng sẽ kiểm tra tiêu đề của hình ảnh để tìm "ngôn ngữ xúc phạm" hoặc ngôn ngữ có thể gây rắc rối cho người được đề cập trong ảnh.

Được biết công cụ AI này không chỉ hoạt động trên Facebook mà còn cho cả Instagram..