Cách AI phân biệt tin giả, deepfake và bot mạng xã hội phát tán chúng

1. Công ty Logically của Anh

• Kết hợp máy học, công nghệ xử lý ngôn ngữ tự nhiên và trí tuệ con người để đánh giá độ tin cậy của các bản tin báo chí
• Tiện ích mở rộng trình duyệt web của Logically xem xét ngữ cảnh nội dung cùng với các bài viết đáng tin cậy từ hơn 100.000 đơn vị xuất bản
• Sau đó đánh giá nguồn gốc thông tin và độ tin cậy của bài viết
• Dựa trên đánh giá của chuyên gia từ các đối tác nghiên cứu và dự đoán của AI, hệ thống cho người dùng biết nguồn thông tin nào có thể tin cậy hoặc không nên tin
• AI cũng dự đoán mức độ đáng tin của bài viết dựa trên nội dung bài, uy tín và chuyên môn của tác giả, cũng như cách bài viết được lan truyền trên mạng xã hội
• Nếu người dùng yêu cầu kiểm chứng sự thật, đội ngũ fact-check sẽ điều tra và thông báo kết quả

2. Công ty Factmata của Anh

• Phân tích nội dung trực tuyến bằng máy học và công nghệ xử lý ngôn ngữ tự nhiên để phát hiện tin giả
• Factmata xây dựng một engine trích xuất mọi tuyên bố cốt lõi được tạo ra trên Internet và tập hợp chúng lại
• Đồng thời thiết kế thuật toán chấm điểm và phân loại nội dung trên 12 khía cạnh
• 12 khía cạnh này gồm: tranh cãi, thiếu khách quan, phát ngôn thù ghét, phân biệt chủng tộc, phân biệt giới tính, độc hại, khiêu dâm, đe dọa ngôn từ, thiên vị đảng phái quá mức, liên kết giật gân
• Đây là các đặc điểm ngôn ngữ của nội dung có thể là tuyên truyền, thông tin sai lệch hoặc tin giả
• Factmata dùng engine và thuật toán này để phát hiện tin giả và phát ngôn thù ghét liên quan đến thương hiệu, sản phẩm và các vấn đề nóng trực tuyến

3. Nền tảng trực tuyến Bot Sentinel của Mỹ

• Dùng máy học để phát hiện các tài khoản quấy rối người khác hoặc phát tán thông tin sai lệch
• Đội ngũ vận hành huấn luyện mô hình máy học để phân loại tài khoản Twitter bằng cách sử dụng hàng nghìn tài khoản và hàng triệu tweet
• Trước tiên, họ tìm các tài khoản liên tục vi phạm quy định của Twitter
• Sau đó huấn luyện mô hình phân loại những tài khoản tương tự các tài khoản mà đội ngũ vận hành xác nhận là “có vấn đề”
• Các tài khoản được phân loại thành ‘bình thường(normal)’, ‘đạt yêu cầu(satisfactory)’, ‘gây gián đoạn(disruptive)’, ‘có vấn đề(problematic)’ và được gán điểm (%) cho từng tài khoản
• Điểm càng cao thì khả năng tài khoản đó có vấn đề càng lớn

4. Công ty Meta (Facebook) của Mỹ

• Phát triển hệ thống dùng AI để phát hiện video deepfake
• Huấn luyện mô hình bằng các video trong bộ dữ liệu được đặt hàng cho ‘Deepfake Detection Challenge’
• Đồng thời sử dụng mạng đối kháng sinh thành đa mô hình trong quá trình huấn luyện
• Meta sử dụng kỹ thuật tổng hợp dữ liệu mới để cập nhật mô hình gần như theo thời gian thực, nhằm giúp hệ thống nhận diện các video deepfake mới mà trước đó chưa từng thấy
• Khi phát hiện một video deepfake mới, hệ thống sẽ tạo thêm các trường hợp deepfake tương tự
• Sau đó dùng chúng làm dữ liệu huấn luyện quy mô lớn cho mô hình phát hiện video deepfake