Cuối tháng 2/2019, YouTube đã thẳng tay gỡ bỏ hàng loạt nội dung ấu dâm trên trang web này bằng cách thanh trừng hàng chục triệu bình luận, sau khi bị chỉ trích dữ dội từ dư luận vì buông lỏng quản lý những nội dung đồi trụy này. Theo một bloger cho biết, nền tảng chia sẻ video này đã đề xuất người dùng đến các video có chứa nội dung tình dục trẻ em.
Hệ thống đề xuất video tự động của YouTube đã giới thiệu video trẻ em mặc bikini cho những người dùng có lịch sử xem các video có nội dung 18+.
Cuối cùng, CEO YouTube Susan Wojcicki đã đứng lên xin lỗi và cho biết luôn xem xét nghiêm túc an toàn của trẻ em và trang bị nhiều công cụ mạnh mẽ hơn để tìm các nội dung, bình luận chứa nội dung lạm dụng trẻ em. Tuy nhiên, nguồn tin từ The New York Times mới đây vừa tiết lộ, hệ thống đề xuất tự động của YouTube đang tập hợp các video trẻ em và giới thiệu chúng cho những người có xu hướng ấu dâm.
Báo cáo từ The New York Times dẫn lời Jonas Kaiser, một trong ba nhà nghiên cứu tại Trung tâm Internet và Xã hội Berkman Klein của Đại học Harvard, cho biết, hệ thống đề xuất video tự động của YouTube đã giới thiệu video trẻ em mặc bikini cho những người dùng có lịch sử xem các video có nội dung 18+.
Hệ thống đề xuất của YouTube là công cụ giúp cho những kẻ ấu dâm thoả mãn sở thích bệnh hoạn.
Thực tế, YouTube đã chưa và sẽ không bao giờ đặt mục tiêu phục vụ những kẻ có xu hướng ấu dâm, nhưng hệ thống của nền tảng này lại là công cụ giúp cho những kẻ này thoả mãn sở thích bệnh hoạn.
Jonas Kaiser cho biết, một người dùng đã xem các video có nội dung 18+ có thể được đề xuất các video về những cô gái trẻ, tiếp đó là những phụ nữ tạo dáng “mời gọi” trong quần áo trẻ em. Và cuối cùng, một số trong số những kẻ này có thể được gợi ý xem video về các bé gái khoảng 5 hoặc 6 tuổi mặc đồ ít vải, thay quần áo hoặc xoạc chân.
Cho đến thời điểm hiện tại, hệ thống đề xuất video của YouTube đã được tinh chỉnh lại. Tuy nhiên, điều mà YouTube cần làm nhất là tắt hệ thống đề xuất của họ trên video của trẻ em lại không được thực hiện, dù nền tảng này có thể tự động xác định các video đó.
YouTube cho biết, lý do mà họ vẫn chưa thực hiện thay đổi này là vì việc loại bỏ chúng sẽ làm tổn thương “những người sáng tạo” sống dựa vào những lượt xem. YouTube cam kết sẽ giới hạn các đề xuất trên các video mà họ cho là khiến trẻ em gặp nguy hiểm.
