Một emoji có thể tạo ra sự khác biệt giữa một trò đùa vô hại và một nội dung có tính chất thù hằn trên Facebook. Với quan điểm này, Facebook đã huấn luyện cho đội ngũ quản trị viên của mình cách một emoji có thể là một dấu hiệu cho thấy nội dung đang vi phạm các quy định cộng đồng của mạng xã hội này, bao gồm biểu tượng “phân” là dấu hiệu cho ngôn ngữ thù hằn, “mặt nôn mửa” cho nội dung có tính chất bắt nạt, “mặt hề” có thể là dấu hiệu liên quan đến việc gạ gẫm tình dục, theo một tài liệu nội bộ của Facebook mới đây bị rò rỉ.
Dùng emoji trên Facebook cũng có thể sẽ mang lại cho bạn rắc rối.
“Hành động như thế nào đối với emoji” là tên tài liệu đặc biệt này. “Sử dụng thêm ngữ cảnh để xác định xem emoji có đang được sử dụng theo cách vi phạm hay không” tài liệu nói trên viết, kèm với đó là một bảng biểu ghi chi tiết những emoji có thể có thể liên quan đến các các nội dung vi phạm như thế nào.
Ảnh chụp màn hình tài liệu liên quan đến emoji của Facebook bị rò rỉ.
Quan sát cho thấy những emoji bao gồm trong danh sách này khá đa dạng, bao gồm cả những emoji mang tính chất tích cực như ủng hộ khen ngợi nhưng thực tế lại có thể liên quan đến các nội dung bị cấm như cổ động việc phạm tội chẳng hạn. Các biểu tượng khác như súng nước hay dao được Facebook diễn giải có thể liên quan đến hành vi bạo lực. Cờ quốc gia cũng có thể được sử dụng trong các nội dung mang tính chất thù hằn trong khi đó emoji động vật có thể liên quan đến những so sánh phi nhân tính.
Là một mạng xã hội cộng đồng đồng thời có số lượng người dùng lớn, vấn đề quản lý nội dung luôn được Facebook thắt chặt. Bên cạnh việc sử dụng các nhân sự quản lý nội dung, Facebook còn áp dụng các biện pháp kỹ thuật để lọc và chặn các nội dung vi phạm quy tắc cộng đồng. Dù vậy, với các nội dung cần hiểu ngữ cảnh để xác định tính chất vi phạm, nhân sự còn người vẫn đóng vai trò chủ lực.
