Ngày 2-9, Hãng công nghệ OpenAI thông báo sẽ bổ sung tính năng kiểm soát dành cho phụ huynh vào ChatGPT, nhằm hỗ trợ kiểm soát các tác động của ứng dụng này đối với thanh thiếu niên.
Thông báo này được đưa ra sau khi cha mẹ của Adam Raine, một thiếu niên 16 tuổi tại California đệ đơn kiện OpenAI, cáo buộc rằng ChatGPT đã cung cấp lời khuyên giúp cậu lên kế hoạch tự tử. Trước đó, vào năm 2024, một người mẹ ở Florida cũng kiện nền tảng chatbot Character.AI với cáo buộc có liên quan đến cái chết của đứa con trai 14 tuổi của bà.
Bên cạnh đó, nhiều báo cáo từ The New York Times và CNN cũng cho thấy ngày càng có nhiều lo ngại về việc người dùng phát triển sự gắn bó cảm xúc quá mức với ChatGPT, dẫn đến tình trạng ảo tưởng, mất kết nối với thực tế và dần xa cách với gia đình.
OpenAI không trực tiếp liên kết các tính năng kiểm soát mới với những vụ việc đáng tiếc gần đây, nhưng trong một bài blog đăng tuần trước, công ty cho biết rằng những trường hợp đau lòng liên quan đến người dùng sử dụng ChatGPT trong lúc khủng hoảng nghiêm trọng đã thúc đẩy họ phải chia sẻ rõ ràng hơn về cách tiếp cận đối với vấn đề an toàn.
Theo OpenAI, các tính năng mới sẽ cho phép phụ huynh liên kết tài khoản với con, quản lý cách ChatGPT phản hồi với người dùng trẻ tuổi như ghi nhớ và lịch sử trò chuyện. Ngoài ra, ChatGPT sẽ tự động gửi cảnh báo nếu phát hiện thanh thiếu niên có dấu hiệu căng thẳng nghiêm trọng. Dự kiến thay đổi này sẽ được OpenAI thực hiện trong tháng 10.2025.
Đồng thời, công ty cũng đang hợp tác với các chuyên gia trong các lĩnh vực phát triển thanh thiếu niên, sức khỏe tâm thần và tương tác giữa con người với máy tính để phát triển thêm các biện pháp bảo vệ trong tương lai, trong đó có cả những công cụ kiểm soát dành cho cha mẹ.
OpenAI cho biết ChatGPT có hơn 700 triệu người dùng hàng tuần và thường được sử dụng để hỗ trợ trong gia đình, công việc cũng như học tập, khiến nền tảng này trở thành một trong những AI phổ biến nhất hiện nay.
Bên cạnh đó, OpenAI sẽ triển khai hệ thống xử lý đặc biệt, tự động đưa những cuộc trò chuyện nhạy cảm sang mô hình phân tích chuyên sâu, vốn được huấn luyện để tuân thủ tốt hơn các quy định an toàn và hạn chế rủi ro.
Khi ChatGPT được cập nhật với những tính năng mới, các bậc cha mẹ sẽ nhận được thông báo khi ChatGPT phát hiện ra rằng con của họ “đang trong tình trạng rất căng thẳng”. Đây chắc chắn là tính năng mà bậc cha mẹ nào cũng mong đợi ở ChatGPT.
OpenAI nhấn mạnh, mặc dù các chuyên gia sẽ đóng vai trò tư vấn về sản phẩm, nghiên cứu và chính sách, nhưng công ty vẫn là bên chịu trách nhiệm cuối cùng cho mọi quyết định mà họ đưa ra.
OpenAI cũng khẳng định sẽ sớm bổ sung thêm nhiều tính năng an toàn khác.
