Theo mô tả, thuật toán mang tên SybilEdge sẽ truy quét các tài khoản ảo đã “qua mặt” được bộ lọc chống giả mạo của Facebook vào thời điểm tạo tài khoản. Facebook cho biết, mục tiêu của hãng là nhằm giúp giảm thiểu khả năng tấn công những người dùng khác của các tài khoản này.
Thuật toán AI SybilEdge của Facebook sẽ truy quét các tài khoản ảo, có ít hơn 20 người bạn. (Ảnh: DIMITRI OTIS/GETTY IMAGES)
Được biết, AI SybilEdge có thể phát hiện được các tài khoản Facebook giả mạo được lập dưới một tuần và có ít hơn 20 lời mời kết bạn. AI này hiện đang được Facebook sử dụng SybilEdge để ngăn chặn làn sóng lan truyền tin giả về dịch Covid-19.
Một nghiên cứu do Reuters và Viện Báo chí tại Đại học Oxford đã cho thấy, trong số những người từng thấy các loại thông tin sai lệch về Covid-19 trên mạng xã hội, 33% trong số đó là người dùng Twitter, Facebook và YouTube.
Nghiên cứu nội bộ của Facebook cho thấy, những tài khoản không thực hiện các hành vi lừa gạt thường có sự khác biệt trong cách chọn bạn bè. Những người nhận được lời mời kết bạn từ họ cũng có cách phản hồi khác với lời mời từ tài khoản giả mạo.
AI SybilEdge của Facebook có thể phát hiện được các tài khoản Facebook giả mạo được lập dưới một tuần và có ít hơn 20 lời mời kết bạn. (Ảnh: iStockphoto)
Theo đó, lời mời từ tài khoản giả thường bị từ chối nhiều lần hơn so với hơn lời mời từ tài khoản thật. Thêm vào đó, tài khoản giả mạo thường cẩn thận trong việc chọn mục tiêu để gởi lời mời kết bạn, nhằm tăng tối đa khả năng lời mời của chúng được chấp nhận.
Facebook đã “dạy” SybilEdge nhận biết những tài khoản giả mạo, bằng cách tiến hành phân tích và kiểm chứng các tài khoản qua nhiều bước. Mạng xã hội phổ biến nhất thế giới cũng xác nhận rằng, tỉ lệ phát hiện tài khoản giả mạo chính xác của SybilEdge là 90% đối với các tài khoản có 15 lời mời kết bạn hoặc ít hơn, và 80% đối với các tài khoản có 5 lời mời kết bạn.
Facebook đã “dạy” SybilEdge nhận biết những tài khoản giả mạo, bằng cách tiến hành phân tích và kiểm chứng các tài khoản qua nhiều bước. (Ảnh: ELENA LACEY; GETTY IMAGES)
“Trong tương lai gần, chúng tôi có kế hoạch tìm thêm những phương pháp bổ sung nhằm đẩy nhanh quá trình phát hiện tài khoản giả mạo, và đưa ra quyết định còn nhanh hơn cả SybilEdge. Chúng tôi định thực hiện điều này bằng cách kết hợp những thuật toán dựa trên tính năng và hành vi”, Facebook cho biết trong blog của mình.
Facebok vẫn đang liên tục rèn luyện khả năng tự học tập cho các AI của mình để chúng có thể phân tích dữ liệu chính xác hơn. Một thuật toán khác của Facebook là “Phân loại thực thể chuyên sâu” (DEC) cũng giúp loại bớt 20% tài khoản giả mạo trên mạng xã hội này trong 2 năm qua kể từ khi được áp dụng.
