Theo dự luật sửa đổi mới được Quốc hội nước này thúc đẩy, mọi hình ảnh, video hay nội dung tạo bằng AI sẽ phải gắn watermark (dấu nhận diện kỹ thuật số) bắt buộc. Đặc biệt, hành vi xóa, chỉnh sửa hoặc làm giả watermark có thể bị xử lý hình sự, thậm chí đối mặt án tù.
Động thái này được xem là bước đi mạnh tay của Hàn Quốc trong bối cảnh các sản phẩm AI tạo sinh đang phát triển quá nhanh và bị lợi dụng để phát tán thông tin sai lệch. Chính phủ nước này lo ngại các nội dung giả mạo bằng AI có thể gây ảnh hưởng nghiêm trọng đến xã hội, từ lừa đảo trực tuyến, mạo danh người nổi tiếng đến thao túng dư luận chính trị.
Theo đề xuất, watermark sẽ đóng vai trò như “chữ ký số” để người dùng nhận biết đâu là nội dung do AI tạo ra. Nếu cố tình xóa hoặc làm giả dấu nhận diện nhằm đánh lừa công chúng, cá nhân hoặc tổ chức vi phạm có thể bị truy cứu trách nhiệm hình sự. Đây được xem là nỗ lực tăng tính minh bạch đối với các sản phẩm AI trong thời đại công nghệ số bùng nổ.
Thời gian gần đây, Hàn Quốc liên tiếp đối mặt với nhiều vụ việc liên quan đến nội dung deepfake và video giả mạo lan truyền trên mạng xã hội. Một số video “cổ động viên xinh đẹp” xuất hiện tại các sân bóng chày từng gây sốt mạng xã hội nhưng sau đó bị phát hiện là sản phẩm AI. Sự việc làm dấy lên tranh cãi lớn về nguy cơ người dùng bị đánh lừa bởi các nội dung ngày càng khó phân biệt thật - giả.
Trước đó, Hàn Quốc cũng đã yêu cầu các quảng cáo sử dụng công nghệ AI phải gắn nhãn nhận diện nhằm hạn chế tình trạng deepfake mạo danh người nổi tiếng để quảng bá sản phẩm.
Các chuyên gia nhận định việc bắt buộc gắn watermark có thể trở thành xu hướng quản lý AI trên toàn cầu trong thời gian tới. Tuy nhiên, thách thức lớn vẫn là làm sao xây dựng được hệ thống nhận diện đủ mạnh để theo kịp tốc độ phát triển của công nghệ AI tạo sinh.
