Cảnh giác kẻ xấu lợi dụng AI ghép mặt nạn nhân để đe dọa tống tiền

Theo dõi Báo Gia Lai trên Google News

Hình ảnh, video công khai trên mạng bị kẻ gian lợi dụng AI (trí tuệ nhân tạo) để chỉnh sửa, cắt ghép vào nội dung nhạy cảm nhằm đe dọa, tống tiền.

Trái với giai đoạn tiếp cận các công cụ nhân tạo để làm video Deepfake ghép mặt khá giới hạn như trước đây, hiện tại nhiều công cụ AI như Grok, ChatGPT, Meta AI, Gemeni, DeepSeek đã được phát hành đại trà và cho phép sử dụng miễn phí các tính năng cơ bản, trong đó có tạo hình ảnh. Người dùng có thể tạo được hình mong muốn hoặc thậm chí cắt ghép, chỉnh sửa mà không cần am hiểu về các kỹ thuật xử lý chuyên dụng. Điều này khiến tình trạng lợi dụng AI để ghép mặt cho các mục đích từ giải trí tới đe dọa ngày càng tăng trên internet.

Chị Y.N (quận 1, TP.HCM) cho biết từng là nạn nhân của nạn lợi dụng AI ghép hình ảnh để đe dọa và bị yêu cầu đưa số tiền lớn nếu muốn lấy lại các dữ liệu "nhạy cảm" dù toàn bộ được tạo bởi công cụ trí tuệ nhân tạo. Cụ thể, những hình ảnh cá nhân của chị đã bị kẻ gian thu thập và cắt ghép khuôn mặt vào các nội dung xấu, tạo những đoạn chat nhạy cảm rồi tìm tới chị Y.N để tống tiền.

Kẻ gian lợi dụng AI để chỉnh sửa, cắt ghép và tống tiền nạn nhân
Kẻ gian lợi dụng AI để chỉnh sửa, cắt ghép và tống tiền nạn nhân

"Chúng cho tôi xem ảnh chụp màn hình các đoạn trò chuyện, hình ảnh, video giả mạo chúng tạo ra rồi yêu cầu đưa 100 triệu đồng để xóa các nội dung trên. Phải thừa nhận rằng hình ảnh ghép nhìn không thể nhận ra là thật hay giả", nạn nhân chia sẻ và cũng cho biết đã báo cơ quan chức năng về hành vi trên.

Trường hợp như chị Y.N chỉ là một trong số nhiều những vụ việc liên quan đến hành vi lợi dụng AI và các công cụ chỉnh sửa hình ảnh để phục vụ cho mục đích xấu gần đây. Hiện nay, người dùng mạng xã hội tại Việt Nam vẫn rất "vô tư" chia sẻ hình ảnh cá nhân, bạn bè và người thân lên mạng và công khai, dù đã có nhiều cảnh báo từ các chuyên gia trong lĩnh vực an toàn thông tin về vấn đề này.

Mới đây, Bộ Công an cũng gửi đi cảnh báo tới người dùng điện thoại về sự xuất hiện của tình trạng tội phạm lợi dụng các hình ảnh, video của người dân được công khai trên không gian mạng rồi chỉnh sửa, cắt, ghép tạo nội dung nhạy cảm nhằm đe dọa, tống tiền. "Khuyến cáo người dân cảnh giác khi nhận được các tin nhắn, cuộc gọi có nội dung như trên, không chuyển tiền khi bị đe dọa. Khi phát hiện dấu hiệu bị lừa đảo, cưỡng đoạt tài sản cần nhanh chóng trình báo cơ quan công an nơi gần nhất và phản ánh qua ứng dụng VNeID", thông báo ghi.

Ngoài mục đích tống tiền, kẻ gian cũng có thể sử dụng nhiều hình ảnh, video cá nhân được công khai của nạn nhân để tạo dựng nội dung giả nhằm bôi nhọ uy tín trong môi trường làm việc, trả thù cá nhân, gây tổn hại đến tinh thần, danh dự. Đáng chú ý, các tài liệu giả này ngày càng được làm tinh vi và khó phân biệt với cả người bình thường lẫn những ai quan tâm tới lĩnh vực trí tuệ nhân tạo.

Một nghiên cứu do Tidio - doanh nghiệp chuyên phát triển chatbot AI hỗ trợ bán hàng của Ban Lan - thực hiện vào cuối năm ngoái đã chỉ ra rằng phần lớn người dùng internet ngày càng khó phân biệt hình ảnh do AI tạo ra. Công ty tuyên bố có tới 87% người tham gia đã nhầm lẫn giữa ảnh AI và ảnh chụp người thật. Bên cạnh đó, 62% người được hỏi bày tỏ sự quan tâm đến lĩnh vực AI và máy học, nhưng một nửa trong nhóm này lại không nhận diện đúng các hình ảnh do trí tuệ nhân tạo tạo nên.

Hiện chưa có quy định riêng cho hành vi lợi dụng AI trong tội phạm mạng, nhưng việc sử dụng hình ảnh người khác để đe dọa, tống tiền hoặc phát tán thông tin giả mạo vẫn có thể bị xử lý theo các điều khoản liên quan đến tội làm nhục người khác, cưỡng đoạt tài sản hoặc truyền bá văn hóa phẩm đồi trụy.

Trước tình hình này, các chuyên gia khuyến cáo người dùng nên thận trọng khi chia sẻ hình ảnh cá nhân lên mạng xã hội, đồng thời sử dụng các công cụ bảo mật để kiểm soát quyền riêng tư.

Theo Anh Quân (TNO)

Có thể bạn quan tâm

Bẫy “cho thuê vàng”: Lãi suất cho vay núp bóng lên tới hơn 500%/năm

Bẫy “cho thuê vàng”: Lãi suất cho vay núp bóng lên tới hơn 544%/năm

(GLO)- Núp bóng doanh nghiệp cho thuê vàng, trang sức, các nhóm đối tượng tại TP. Hồ Chí Minh bị phát hiện tổ chức cho vay lãi nặng với lãi suất lên tới 544,78%/năm. Công an đã khởi tố 36 bị can, cảnh báo người dân trước những hợp đồng dịch vụ được sử dụng để che giấu bản chất khoản vay.

Gần 1.300 học sinh Trường THPT Pleiku tham gia Chiến dịch "Không một mình"

Gần 1.300 học sinh Trường THPT Pleiku tham gia Chiến dịch "Không một mình"

(GLO)- Sáng 19-10, Công an tỉnh Gia Lai phối hợp với Sở GD&ĐT tuyên truyền Chiến dịch "Không một mình" năm 2026 với chủ đề: “Phòng, chống xâm hại trực tuyến” cho gần 1.300 học sinh khối lớp 11 và 12 Trường THPT Pleiku. Đây là trường đầu tiên trên địa bàn tỉnh được lựa chọn triển khai chiến dịch.

Một cuộc cãi vã trên mạng được biến thành tiền như thế nào?

Một cuộc cãi vã trên mạng được biến thành tiền như thế nào?

(GLO)- Từ một mâu thuẫn cá nhân, những cuộc tranh cãi trên mạng có thể nhanh chóng trở thành nội dung thu hút hàng chục nghìn, thậm chí hàng triệu lượt xem. Khi sự chú ý được chuyển thành lượng người theo dõi và tương tác, nó có thể tiếp tục được khai thác để tạo ảnh hưởng và lợi ích kinh tế.

Không có “vùng trống” pháp luật trên mạng xã hội - Kỳ 2: Từ màn hình ảo đến hậu quả thật

Không có “vùng trống” pháp luật trên mạng xã hội - Kỳ 2: Từ màn hình ảo đến hậu quả thật

(GLO)- Những hành vi tưởng chỉ diễn ra trên màn hình có thể tác động trực tiếp đến danh dự, tài sản, hoạt động sản xuất, kinh doanh và an ninh, trật tự ngoài đời thực. Một bài đăng, buổi livestream hay cuộc tranh luận trên mạng nếu không được kiểm soát có thể dẫn đến hậu quả ngoài dự liệu.

Cao điểm 3 ngày trước Trung thu: Cảnh giác bánh không rõ nguồn gốc

Cao điểm 3 ngày trước Trung thu: Cảnh giác bánh không rõ nguồn gốc

(GLO)- Càng gần Tết Trung thu, sức mua bánh nướng, bánh dẻo và các loại thực phẩm phục vụ lễ hội càng tăng. Đây cũng là thời điểm hàng nhập lậu, bánh không rõ nguồn gốc, không bảo đảm an toàn thực phẩm có nguy cơ len lỏi vào thị trường, đặc biệt qua mạng xã hội và các kênh bán hàng trực tuyến.

Phụ huynh cần cảnh giác với tài khoản lạ mang tên “nhà trường”

Phụ huynh cần cảnh giác với tài khoản lạ mang tên “nhà trường”

(GLO)- Đầu năm học mới, khi nhu cầu đóng học phí, mua sách giáo khoa, đồng phục, bảo hiểm và thực hiện các khoản thu khác tăng cao, các đối tượng lừa đảo có thể giả danh giáo viên, cán bộ nhà trường để tiếp cận phụ huynh, yêu cầu chuyển tiền vào tài khoản do chúng cung cấp.

Tự chế pháo gây chết người có thể đối mặt với án tù chung thân

Tự chế pháo gây chết người có thể đối mặt với án tù chung thân

(GLO)- Tự ý chế tạo, sản xuất pháo nổ là hành vi bị pháp luật nghiêm cấm. Nếu việc chế tạo, sử dụng trái phép vật liệu nổ gây chết người, người thực hiện có thể bị truy cứu trách nhiệm hình sự với mức án cao nhất đến tù chung thân, tùy số người tử vong và các tình tiết của vụ án.

null