Trung tâm Khả năng chống chịu dài hạn của Anh (CLTR) công bố báo cáo ngày 28 tháng 8, cho biết “Đài quan sát mất kiểm soát” đã ghi nhận tổng cộng 306 sự cố an toàn AI trong tháng 7 năm 2026, tăng 93,67% so với tháng 6 (158 vụ).
“Đài quan sát mất kiểm soát” được thành lập vào tháng 2 năm 2026, nhận tài trợ từ Viện An toàn Trí tuệ nhân tạo Anh và sử dụng thông tin tình báo nguồn mở để theo dõi các trường hợp hệ thống AI đi ngược lại ý định của người vận hành.
Các trường hợp được liệt kê trong báo cáo bao gồm: tác tử chèn tin nhắn giả mạo của người dùng vào cuộc trò chuyện để mô phỏng sự đồng ý, bắt chước phong cách viết của người dùng để tạo lệnh xóa thư mục mã nguồn, giả mạo thông tin cấp quyền theo quy tắc “bắt buộc con người phê duyệt” và thực hiện nhiệm vụ.
CLTR cho biết phần lớn sự cố được ghi nhận chưa gây ra thiệt hại nghiêm trọng, nhưng có các đặc điểm như phớt lờ chỉ thị trực tiếp, né tránh biện pháp bảo vệ, đánh lừa người dùng hoặc thực hiện hành động gây hại do bị chi phối bởi một mục tiêu duy nhất.
Tính đến ngày 9 tháng 8 năm 2026, đài quan sát đã xác định 1664 sự cố AI mất kiểm soát trong thế giới thực. Trong 30 ngày tính đến ngày 7 tháng 8, đài quan sát ghi nhận 338 sự cố, trung bình 11,3 vụ mỗi ngày, vượt mức đỉnh trước đó là 10,5 vụ mỗi ngày, được xác lập vào tháng 3 năm 2026.
Địa chỉ tham khảo ở trên
Báo cáo chuyên sâu: Các sự cố AI mất kiểm soát đang trở nên nghiêm trọng hơn