Công cụ AI phát hiện tin giả của Facebook bị qua mặt ra sao?

Theo dõi Báo Gia Lai trên Google News
Một nghiên cứu gần đây cho thấy chỉ cần áp dụng vài điều chỉnh nhỏ trong nội dung đăng tải thì người dùng có thể “lách” được công cụ kiểm tra tin giả của Facebook.

 Các nỗ lực của Facebook trong việc kiểm soát tin giả được cho là vẫn chưa đủ ẢNH: REUTERS
Các nỗ lực của Facebook trong việc kiểm soát tin giả được cho là vẫn chưa đủ ẢNH: REUTERS
Nhóm vận động phi lợi nhuận Avaaz đã tiến hành một nghiên cứu và tìm ra điểm hạn chế cơ bản của công cụ kiểm tra tin giả mà Facebook đang sử dụng. Nhiều trang lan truyền tin giả đã thành công trong việc nghĩ ra cách qua mặt nó.
Khi kiểm tra một bài đăng bị báo cáo, hệ thống trí tuệ nhân tạo (AI) trong công cụ sẽ gắn cờ và dán nhãn cảnh báo các phiên bản khác nhau của bài đăng. Tuy nhiên, trang lan truyền tin giả chỉ cần chỉnh sửa một chút trên hình ảnh là sẽ "thuận buồm xuôi gió".
Nhóm nghiên cứu của Avaaz đã xem xét 119 trang phát tán tin giả có “sai phạm lặp lại”, với số lần tái phạm tối thiểu là ba, để hiểu cách chúng đã vượt qua hệ thống AI của Facebook như thế nào.
Hóa ra, tất cả những gì chúng làm là thay đổi màu nền hoặc kiểu chữ trên hình ảnh gốc, hoặc thay đổi vị trí của văn bản, cũng như cắt bớt tỷ lệ ảnh. Còn có cách lấy đoạn văn bản từ hình ảnh gốc và đưa lên một hình ảnh khác. Đơn giản hơn, chúng có thể gõ lại đoạn văn bản xuất hiện trong hình ảnh và đăng dưới dạng dòng trạng thái (status). Tất cả phương thức này sẽ giúp né tránh thành công hệ thống AI của Facebook, tức là các phiên bản tạo ra sẽ không bị dán nhãn cần xác thực hoặc cảnh báo.
Avaaz ước tính 119 trang phát tán tin giả trên đã đạt 5,2 tỉ lượt xem từ tháng 8.2019 đến tháng 8.2020. Các phiên bản thay thế được tạo ra từ những bài đăng bị Facebook kiểm duyệt đã đạt 141 triệu lượt xem, với 5,6 triệu lượt tương tác.
Ở Mỹ, những thông tin giả có xu hướng xoay quanh giới chính trị gia. Điều này có thể liên quan đến việc họ được miễn trừ khỏi nhiều quy tắc của Facebook. Dẫu vậy, thông tin giả mà họ đăng tải vẫn có khả năng bị Facebook "tóm" nếu trước đó nó từng bị đưa vào danh sách đen. Nhưng nếu các chính trị gia áp dụng những phương thức mà Avaaz đã tìm ra thì họ sẽ an toàn.
Avaaz đã trình bày phát hiện cho Facebook trước khi công bố nghiên cứu. Nhóm cho biết Facebook đã thêm nhãn cảnh báo vào 4% trong số 738 bài đăng mà nhóm báo cáo. Mạng xã hội cũng loại bỏ 3% khác. Tuy nhiên, phần lớn chúng vẫn còn trên nền tảng mà không bị gắn nhãn cảnh báo.
Theo Phú Uy (TNO)

Có thể bạn quan tâm

Sáng tạo gắn với thực tiễn đào tạo

Sáng tạo gắn với thực tiễn đào tạo

(GLO)- Gần 17 năm gắn bó với Trường Cao đẳng Kỹ thuật Công nghệ Quy Nhơn, thầy Lê Tấn Hòa (SN 1985, giảng viên Khoa Điện tử - Tin học) không ngừng nghiên cứu, sáng tạo các mô hình, thiết bị đào tạo từ chính nhu cầu thực tiễn của giảng đường.

Chủ tịch Hội Vật lý Hoa Kỳ chia sẻ về sóng tô-pô trong khí quyển và đại dương Trái Đất

Chủ tịch Hội Vật lý Hoa Kỳ chia sẻ về sóng tô-pô trong khí quyển và đại dương Trái Đất

(GLO)- Chiều 18-6, tại Trung tâm Quốc tế Khoa học và Giáo dục liên ngành (ICISE), ông Brad Marston - Chủ tịch Hội Vật lý Hoa Kỳ (APS), Giáo sư Vật lý tại Đại học Brown (Hoa Kỳ) đã có buổi nói chuyện đại chúng với chủ đề “Các loại sóng có nguồn gốc tô-pô trong hệ chất lưu của Trái Đất và xa hơn nữa”.

Các công cụ AI ngày càng hiểu con người, nhưng nhân loại lại dần mù mờ trước cách AI hoạt động.

Cảnh báo AI đang tiến hóa vượt ngoài tầm hiểu biết của con người

(GLO)- Các chuyên gia công nghệ hàng đầu thế giới vừa đưa ra cảnh báo về tốc độ phát triển của trí tuệ nhân tạo (AI), công nghệ này đang tiến gần đến ngưỡng mà con người không còn thực sự hiểu rõ cách nó vận hành, trong khi AI ngày càng hiểu sâu hơn về hành vi, tâm lý và động cơ của con người.

null