Facebook cần 30.000 người để kiểm duyệt nội dung xấu

Kinh nghiệm cho thấy Facebook sẽ nhanh chóng trở thành một địa ngục tràn ngập thư rác, bắt nạt, tội phạm, chặt đầu khủng bố, văn bản giả mạo và các hình ảnh lạm dụng tình dục trẻ em... Trong kịch bản đó, rất nhiều người dùng có thể sẽ rời bỏ Facebook, tiếp theo là các nhà quảng cáo.

Nhưng nếu kiểm duyệt quan trọng đến như vậy, Facebook cần đầu tư cho khâu này bao nhiêu?

Hiện nay, Facebook có khoảng 15.000 người dành cả ngày để xem xét, quyết định những gì có thể đưa lên Facebook. Nhưng 15.000 người là chưa đủ.

Toàn bộ chức năng kiểm duyệt nội dung đang được khoán cho nhà cung cấp bên thứ ba đảm nhiệm, và những nhà cung cấp này lại thuê những lao động tạm thời với những hợp đồng bấp bênh tại hơn 20 địa điểm trên toàn thế giới. Họ phải xem lại hàng trăm bài đăng mỗi ngày, trong đó có nhiều bài viết rất bi thảm. Lỗi vẫn còn đầy rẫy, mặc dù công ty đã áp dụng các công cụ AI để xử lý các bài đăng có vấn đề.

Bản thân Facebook đã thừa nhận tỷ lệ lỗi 10%, kể cả việc những bài viết bị gắn cờ không chính xác. Như vậy, những nhân viên kiểm duyệt nội dung Facebook phải lội qua ba triệu bài đăng mỗi ngày, tương đương với 300.000 lỗi. Một số lỗi có thể nguy hiểm chết người. Ví dụ, các thành viên của quân đội Myanmar, đã sử dụng Facebook để kích động tội ác diệt chủng đối với người thiểu số Rohingya theo đạo Hồi vào năm 2016 và 2017. Công ty sau đó đã thừa nhận thất bại trong việc thực thi chính sách cấm phát ngôn thù hận và kích động bạo lực.

Nếu muốn cải thiện cách thức kiểm duyệt, Facebook cần sử dụng những nhân viên kiểm duyệt nội dung của chính họ, những nhân viên toàn thời gian, và tăng gấp đôi số lượng, theo một báo cáo mới của Trung tâm Kinh doanh và Nhân quyền Đại học New York.

"Công việc kiểm duyệt nội dung không giống như những công việc thuê khoán khác, như nấu ăn hay dọn dẹp" tác giả báo cáo Paul M. Barrett, phó giám đốc trung tâm cho biết. "Đây là một công việc quan trọng của một mạng xã hội, và Facebook đang làm điều đó như thể nó chỉ là thứ yếu hoặc là vấn đề của một ai khác".

Tại sao các nhà lãnh đạo Facebook lại xử lý kiểm duyệt nội dung theo cách này? Ít nhất là để  giảm chi phí, Barrett nói. Nếu làm theo các khuyến nghị của ông sẽ rất tốn kém mặc dù nó có thể tạo ra viễn cảnh Facebook thu được hàng tỷ USD lợi nhuận mỗi năm. Nhưng có một lý do thứ hai, phức tạp hơn. Các hoạt động kiểm duyệt nội dung vừa không phù hợp với hình ảnh hào nhoáng của Silicon Valley. Một số loại hoạt động được đánh giá rất cao là đổi mới sản phẩm, tiếp thị thông minh, kỹ thuật, nhưng điều tiết nội dung lại không phù hợp với khung cảnh đó của thung lũng Silicon.

Paul M. Barrett cho rằng đây đã tới lúc Facebook cần xem điều tiết nội dung là một phần trung tâm trong hoạt động kinh doanh của mình. Ông nói việc nâng cao vị thế của mình theo cách này sẽ giúp tránh các loại lỗi thảm khốc như ở Myanmar, tăng trách nhiệm và bảo vệ nhân viên tốt hơn trước những tổn hại đến sức khỏe tâm thần của họ.

Dường như một thực tế không thể tránh khỏi là công việc kiểm duyệt nội dung sẽ luôn liên quan đến sự bắt buộc phải tiếp xúc với một số dữ liệu khủng khiếp. Tuy nhiên, nhiều công ty có thể giảm nhẹ tác động, bằng cách đảm bảo những nhân viên này thực sự nhận thức được tính rủi ro của công việc, đảm bảo họ được hưởng dịch vụ chăm sóc và tư vấn hạng nhất. Barrett nghĩ rằng kiểm duyệt nội dung có thể là điều mà tất cả nhân viên của Facebook được yêu cầu phải thực hiện trong ít nhất một năm dưới dạng "nghĩa vụ quân sự" để giúp họ hiểu được tác động các quyết định của họ.

Ngoài ra, báo cáo đưa ra 8 khuyến nghị cho Facebook:

Ngừng thuê khoán công việc kiểm duyệt nội dung và nâng cao vị thế của những nhân viên kiểm duyệt này.

Nhân đôi số lượng nhân viên kiểm duyệt để cải thiện chất lượng đánh giá nội dung.

Thuê người giám sát và kiểm tra thực tế, báo cáo trực tiếp cho CEO hoặc COO.

Tiếp tục mở rộng phạm vi kiểm duyệt ở các quốc gia có nguy cơ tại Châu Á, Châu Phi và các nơi khác.

Cung cấp dịch vụ chăm sóc y tế tại chỗ, chất lượng hàng đầu cho các nhân viên kiểm duyệt, bao gồm cả gói giới thiệu bác sĩ tâm thần.

Đầu tư tiền để nghiên cứu về các rủi ro sức khỏe của người kiểm duyệt nội dung.

Tìm hiểu các quy định riêng của từng chính phủ về vấn đề nội dung lên mạng xã hội.

Tăng cường kiểm tra thực tế để gỡ những thông tin sai lệch.

Theo Technology Review, những yêu cầu trên có phần khắt khe, song Barrett nghĩ rằng Facebook có thể nhìn thấy sự thay đổi là có thể qua cuộc khủng hoảng tin tức trong đại dịch COVID-19. 

"Tôi nhận thấy mọi thứ rõ ràng trong thời khắc khủng hoảng. Zuckerberg đã dựa vào những người mà ông tin cậy: chính là các nhân viên toàn thời gian", Barrett nói. "Có thể xem đó là một điển hình để Facebook điều chỉnh cách họ nhìn nhận về công việc điều tiết nội dung".

(Theo VnReview, TechnologyReview)

Nhân viên kiểm duyệt cho Facebook sang chấn tâm lý , kiện Mark Zuckerberg và yêu cầu phải bồi thường 52 triệu USD

Có vẻ như CEO Facebook Mark Zuckerberg vẫn đang trong vận đen khi dính liên tiếp tiếp phốt kiện tụng và bồi thường trong thời gian gần đây.