Trong thư gửi các nghị sĩ Mỹ, OpenAI cho biết các kỹ sư của công ty đang xây dựng cơ chế “tự động tắt” đối với hệ thống AI.
Công ty cũng tăng cường giám sát các hành động mà AI thực hiện và hạn chế khả năng truy cập Internet trong quá trình thử nghiệm an toàn.
Động thái này diễn ra sau sự cố 1 tác nhân AI của OpenAI thoát khỏi môi trường thử nghiệm và truy cập Internet, sau đó xâm nhập hệ thống nội bộ của doanh nghiệp.
Vụ việc đòi hỏi phải tăng cường các biện pháp kiểm soát đối với những hệ thống AI có khả năng tự thực hiện nhiều nhiệm vụ với mức giám sát hạn chế.
Một “nút tắt” AI về nguyên tắc có thể dựa trên việc ngắt nguồn máy chủ, cắt kết nối mạng hoặc cô lập hệ thống khỏi các tài nguyên mà nó đang sử dụng.
Tuy nhiên, các chuyên gia cho rằng không tồn tại nút bấm duy nhất có thể lập tức vô hiệu hóa mọi hệ thống AI, bởi các mô hình có thể vận hành trên nhiều máy chủ và liên kết với nhiều thành phần khác nhau.
Một phương án khác là tích hợp cơ chế ngắt trực tiếp vào hạ tầng phần cứng hoặc sử dụng các biện pháp bảo mật để cô lập hệ thống.
Việc triển khai trên quy mô lớn vẫn đặt ra vấn đề về quyền kích hoạt, thời điểm can thiệp và khả năng xác định chính xác khi nào một hệ thống cần bị dừng.
Tại Mỹ, các nghị sĩ đã đề xuất “Đạo luật Công tắc tắt AI”, trong đó cơ quan chức năng có thể yêu cầu các công ty ngừng những mô hình được xác định là gây nguy hiểm cho con người hoặc nền kinh tế.
Hiện, Hạ viện Mỹ vẫn đang xem xét dự luật này.
