OpenAI - công ty phát triển ChatGPT - cho biết sẽ sớm cho phép chatbot nổi tiếng này tham gia các cuộc trò chuyện "mang tính người lớn," đánh dấu một thay đổi lớn trong chính sách nội dung sau 3 năm cấm hoàn toàn các đề tài trưởng thành.
Giám đốc điều hành (CEO) của OpenAI - ông Sam Altman tuyên bố công ty sẽ triển khai hình thức tương tác nội dung gợi cảm dành cho người dùng đã xác minh độ tuổi (erotica for verified adults).
Trong thông điệp trên nền tảng X, ông Altman nêu rõ OpenAI “không phải là cảnh sát đạo đức được bầu chọn của thế giới” và “giống như xã hội có những giới hạn phân loại phim điện ảnh, chúng tôi cũng muốn tạo ra ranh giới phù hợp cho người trưởng thành và giới trẻ".
Theo ông Altman, mục tiêu của OpenAI là “tăng quyền tự do của người dùng là người trưởng thành” đồng thời áp dụng các hạn chế chặt chẽ hơn với thanh thiếu niên.
Đây là lần đầu tiên OpenAI bước vào lĩnh vực nhạy cảm này, song họ không phải người tiên phong. Ngay từ khi công nghệ AI bùng nổ năm 2022, nội dung tình dục đã trở thành một trong những mảng thu hút người dùng nhất, nhưng cũng là nguồn gốc của nhiều vấn đề pháp lý và đạo đức.
Theo một báo cáo nghiên cứu được Đại học Oxford (Anh) công bố hồi đầu tháng này, hiện có khoảng 29 triệu người tích cực sử dụng các chatbot AI được thiết kế dành riêng cho mục đích gắn kết tình cảm hoặc tình dục.
Các nhà nghiên cứu của Đại học Oxford cảnh báo khi các chatbot ngày càng thân mật và luôn sẵn sàng 24/24, điều đó có thể ảnh hưởng tiêu cực đến các mối quan hệ thật của con người.
Động thái mới của OpenAI được xem là nỗ lực mở rộng nguồn thu trong bối cảnh công ty được định giá tới 500 tỷ USD này vẫn thua lỗ, dù có hàng triệu người đăng ký gói trả phí. Một số chuyên gia cho rằng việc cho phép nội dung trưởng thành có thể mang lại “doanh thu nhanh” cho OpenAI.
Tuy nhiên, những gì đã diễn ra cho thấy đây là một chiến lược đầy rủi ro. Nền tảng tạo ảnh Civitai cũng từng cho phép người dùng tạo nội dung người lớn để “nâng cao năng lực mô hình” nhưng sau đó trở thành tâm điểm chỉ trích khi bị lợi dụng để sản xuất hình ảnh khiêu dâm giả mạo người thật, kể cả người nổi tiếng.
Trước áp lực từ công chúng và quy định pháp lý mới (về sử dụng hình ảnh không được sự đồng thuận của chủ sở hữu) do Tổng thống Donald Trump ký ban hành, Civitai buộc phải cấm tạo deepfake người thật, khiến mức độ tương tác giảm mạnh.
Một số công ty khác, như Nomi có trụ sở tại Baltimore, vẫn duy trì chatbot “bạn đồng hành” chỉ dành cho người dùng trên 18 tuổi.
Giám đốc điều hành Alex Cardinell cho biết sản phẩm của họ không hướng đến mục đích tình dục, nhưng thừa nhận rằng “mối quan hệ giữa con người và AI có thể tự nhiên chuyển hướng sang cảm xúc lãng mạn tùy từng người dùng”.
Theo Thanh Phương (TTXVN/Vietnam+)