Facebook chưa bao giờ giấu giếm ý định dùng AI vào vai trò quản lý nhiều hơn trên nền tảng của họ. Việc kiểm soát thông tin, nội dung được đăng tải trên nền tảng này có thể được hiểu đơn giản qua các bước như sau: đầu tiên, bài đăng nghi vấn vi phạm quy định của công ty (spam, dùng ngôn từ gây thù địch, cổ vũ bạo lực…) sẽ bị đánh dấu, sau đó nhân sự phụ trách hoặc hệ thống máy học sẽ tiến hành lọc phân loại. Một số trường hợp rõ vi phạm sẽ được xử lý tự động (xóa bài đăng, khóa tài khoản), số khác sẽ vào danh sách chờ để chuyên viên duyệt lại một lần nữa.
Mạng xã hội lớn nhất thế giới đang có khoảng 15.000 nhân viên chuyên trách kiểm soát nội dung trên toàn cầu, làm việc sắp xếp các bài đăng bị đánh dấu và đưa ra quyết định có vi phạm quy định của công ty hay không sau khi đã kiểm định thủ công. Nhưng họ luôn bị chỉ trích vì không thể hỗ trợ kịp thời mọi trường hợp, khiến không ít người cho biết cảm thấy bị tổn thương. Rõ ràng, chỉ con người là không đủ để kiểm soát thông tin khổng lồ được đăng tải mỗi ngày trên nền tảng này.
Vì vậy, hãng tuyên bố sẽ làm mọi cách để đảm bảo thứ tự kiểm duyệt ưu tiên, những bài đăng quan trọng được nhìn thấy trước tiên, với sự trợ giúp của máy học. Bài đăng càng được tương tác nhiều (theo lượt xem, chia sẻ) thì càng dễ vào tầm ngắm của hệ thống.
Mike Schroepfer - Giám đốc Công nghệ của Facebook nói: “Nỗi lực tập trung vào AI của Facebook đang giúp triển khai công nghệ máy học để bảo vệ con người khỏi các nội dung độc hại. Với hàng tỉ người sử dụng nền tảng của mình, chúng tôi phải dựa vào AI để kiểm soát thông tin và tự động đưa ra quyết định khi có thể. Mục tiêu đặt ra là khoanh vùng nội dung gây thù địch, tin thất thiệt cũng như các hình thức vi phạm tiêu chuẩn Facebook một cách nhanh chóng và chính xác, dù đó là nguồn nội dung hay ngôn ngữ, cộng đồng nào trên thế giới”.
Cuối năm 2020, báo cáo của hãng cho biết AI đã phát hiện 94,7% trường hợp sử dụng ngôn từ gây thù địch và gỡ bỏ khỏi nền tảng. Con số này tăng đáng kể so với năm 2019 (80,5%) và có thể xem là đột phá nếu so với 24% của năm 2017. Có hơn 96% nội dung gây thù địch liên quan tới các tổ chức, nhóm đã bị hệ thống phát hiện mà không cần tới sự hỗ trợ của con người.
Nhưng dẫu sao đó cũng chỉ là máy móc, AI vẫn gặp trở ngại khi xử lý một số nội dung và đưa ra quyết định có vi phạm tiêu chuẩn cộng đồng hay không. Hệ thống sẽ khó xác định được ẩn ý trong các bức ảnh bị chữ đè lên, hoặc vẫn chưa hiểu được nội dung mỉa mai hay từ lóng. AI của Facebook cũng không ít lần bị “tố” bắt nhầm trường hợp khiến người đăng bài phải khiếu nại, hoặc tự động chuyển đổi định dạng bài đăng.
Thực tế, Facebook đang sử dụng AI theo xu hướng “quét nhầm còn hơn bỏ sót”. Đã có nhiều đợt truy quét mạnh tay diễn ra khiến nhiều tài khoản hoặc các hội nhóm bị đóng vĩnh viễn, bất chấp khiến nại từ phía người dùng.
Tại Việt Nam, mỗi năm thường có không dưới một đợt truy quét hàng loạt với lượng tài khoản bị khóa lên tới hàng nghìn, thậm chí cả triệu. Nhưng trong số này cũng không ít trường hợp thuộc diện quét nhầm và có cả những ca không rõ lý do nào khiến tài khoản bị vào danh sách đen. Tháng 10.2020, Facebook thanh lọc diện rộng khiến nhiều nhóm cộng đồng tại Việt Nam “bay màu”, kể cả những nhóm có tới hàng triệu thành viên hoặc đã hình thành từ lâu, hoạt động ổn định, bình yên qua các đợt truy quét trước đó. Nguyên nhân được đưa ra khá chung chung, chỉ nêu “vi phạm tiêu chuẩn cộng đồng”, còn cụ thể điều khoản nào thì hãng không cung cấp.
Anh Xuân Thành (quận 10, TP.HCM), một người dùng Facebook từng vướng trường hợp liên tiếp bị mạng xã hội này khóa tài khoản mà không rõ nguyên do. “Tôi bị khóa tài khoản tới 6, 7 lần chỉ trong một tháng, mỗi lần khiếu nại và chờ giải quyết kéo dài khoảng 24 giờ. Facebook có hỗ trợ mở nhưng lại khóa nhanh chóng sau đó mà không đưa ra bất kỳ lý do nào”, anh chia sẻ. Là một người am hiểu về công nghệ cũng như các nền tảng mạng xã hội, anh Thành cho rằng đây là lỗi quét nhầm nội dung của AI Facebook.
Một số chuyên gia về dịch vụ Facebook cũng khẳng định thời gian qua mạng xã hội đã tiến hành chỉnh sửa, cải tiến AI nên đã không ít lần phát sinh lỗi. Một ví dụ điển hình là hệ thống tự động chuyển định dạng bài đăng thông thường của người dùng thành bài đăng mua bán, đưa vào chợ Marketplace. Điều này khiến nội dung khó được hiển thị trên News Feed của bạn bè họ. “Có thể bài đăng vướng vào một hoặc vài từ khóa khiến AI hiểu nhầm thành nội dung mua bán”, một chuyên gia cho biết.
