Cảnh báo được đưa ra bởi Giám đốc Khoa học của Microsoft, ông Eric Horvitz, cùng nhà nghiên cứu Robert West của EPFL trong một bài xã luận đăng trên tạp chí khoa học Science. Theo các tác giả, AI đang len lỏi vào hầu hết lĩnh vực của đời sống với tốc độ vượt xa khả năng theo dõi và lý giải của con người.
Các chuyên gia chỉ ra ba xu hướng đáng lo ngại.
Thứ nhất là việc AI ngày càng có khả năng tự thiết kế và cải tiến các hệ thống AI khác. Quá trình này diễn ra trong những không gian tính toán phức tạp đến mức con người khó có thể hiểu được tại sao hệ thống lại đưa ra những quyết định nhất định.
Thứ hai là sự hình thành các hệ sinh thái đa tác nhân, nơi nhiều AI tương tác với nhau bằng những hình thức giao tiếp có thể dần xa rời ngôn ngữ và tư duy của con người.
Thứ ba là khả năng “đọc vị” con người thông qua việc phân tích lượng dữ liệu khổng lồ từ các tương tác trực tuyến, giúp AI nhận diện không chỉ sở thích mà cả những động lực sâu xa như nỗi sợ hãi, sự bất an hay nhu cầu được công nhận.
Theo các nhà nghiên cứu, nguy cơ lớn nhất không nằm ở việc AI trở nên mạnh hơn, mà ở chỗ con người ngày càng ít hiểu về công nghệ này. Nếu xu hướng đó tiếp diễn, những hệ thống AI quyền năng có thể vượt ngoài khả năng giám sát và quản trị của con người, đe dọa quyền tự chủ cá nhân, quá trình ra quyết định dân chủ và niềm tin đối với các thể chế xã hội.
