Theo CNN, sự việc xảy ra trong thời gian xung đột Mỹ - Iran. Báo cáo tình báo được lưu hành trong quân đội Mỹ cho rằng tàu Trung Quốc đang vận chuyển các bộ phận liên quan đến chương trình vũ khí hạt nhân.
Thông tin này khiến quân đội Mỹ lên kế hoạch đánh chặn tàu. Binh sĩ có vũ trang chuẩn bị lên tàu và máy bay quân sự đã được triển khai.
Chỉ ngay trước khi chiến dịch được tiến hành, các quan chức kiểm tra kỹ nguồn thông tin và phát hiện báo cáo do một nhà phân tích thuộc Bộ Tư lệnh Tác chiến Đặc biệt Mỹ lập với sự hỗ trợ của 1 chatbot AI.
Công cụ này đã nhận diện sai loại hàng hóa trên tàu, trong khi lực lượng Mỹ chưa xác định được thực tế con tàu chở gì và cũng chưa rõ chatbot được sử dụng là sản phẩm thương mại hay do Chính phủ Mỹ phát triển.
Dữ liệu ban đầu có nguồn từ Bộ Tư lệnh Tác chiến đặc biệt Mỹ tại Thái Bình Dương ở Hawaii.
Sau đó, kết quả do AI hỗ trợ được chuyển thành báo cáo tình báo theo định dạng thông thường và phổ biến trong quân đội.
Vụ việc xảy ra trong bối cảnh quân đội và các cơ quan tình báo Mỹ đang đẩy mạnh ứng dụng AI vào nhiều hoạt động, từ phân tích dữ liệu tình báo, hỗ trợ lựa chọn mục tiêu đến hậu cần và quản lý.
Sự cố cho thấy những thông tin do AI tạo ra vẫn có thể chứa sai sót và cần được kiểm tra trước khi được sử dụng trong các quyết định quân sự.
