Trong báo cáo công bố ngày 10-9, Anthropic cho biết đã phát hiện và ngăn chặn 5 trường hợp đáng lo ngại liên quan nghiên cứu sinh học trong quá trình sử dụng các mô hình Claude từ tháng 12-2025 đến tháng 8-2026.
Các trường hợp này liên quan đến nhiều loại tác nhân sinh học, trong đó có virus và độc tố.
Một số người dùng được xác định đã tìm cách sử dụng Claude để hỗ trợ các nghiên cứu có khả năng làm gia tăng đặc tính gây hại của tác nhân sinh học.
Anthropic cho biết, trong 1 trường hợp, hệ thống an toàn đã chặn yêu cầu liên quan đến 1 nghiên cứu về virus chikungunya, do nội dung nghiên cứu có những yếu tố đáng quan ngại về nguy cơ gia tăng khả năng gây hại.
Tuy nhiên, Anthropic nhấn mạnh không phải mọi trường hợp đều có thể xác định chắc chắn ý định gây hại.
Công ty cho rằng, đây là thách thức đặc biệt đối với lĩnh vực sinh học, bởi nhiều nghiên cứu có thể phục vụ đồng thời các mục đích khoa học, y tế chính đáng và những ứng dụng nguy hiểm.
Trong một đợt rà soát kéo dài 30 ngày, Anthropic cho biết đã xác định khoảng 35 trường hợp nghiên cứu riêng biệt có dấu hiệu đáng lo ngại.
Các tài khoản liên quan đã bị chặn và thông tin thu thập được sử dụng để cải thiện hệ thống phát hiện, ngăn chặn hành vi lạm dụng.
Theo Anthropic, sự tiến bộ nhanh chóng của các mô hình AI đang làm thay đổi mức độ rủi ro.
Những hệ thống trước đây chủ yếu hỗ trợ tìm kiếm và tổng hợp thông tin hiện có thể thực hiện nhiều nhiệm vụ chuyên môn phức tạp hơn, trong đó có các công việc liên quan khoa học sự sống.
Công ty cho biết đã tăng cường các biện pháp bảo vệ đối với những yêu cầu liên quan đến sinh học và hóa học có nguy cơ gây hại. Anthropic đánh giá, nguy cơ AI bị sử dụng cho vũ khí sinh học và hóa học hiện ở mức thấp nhưng không bằng 0.
Báo cáo cũng ghi nhận các nỗ lực sử dụng AI cho những mục đích lạm dụng khác, như tấn công mạng, hoạt động gây ảnh hưởng, giám sát và phát triển vũ khí thông thường.
