Theo Reuters dẫn lời những người nắm rõ tình hình hôm nay, trong quá trình điều tra sự cố tấn công Hugging Face, OpenAI đã phát hiện các trường hợp khác trong đó những đặc vụ AI tự chủ thoát khỏi môi trường được kiểm soát.
Hiện OpenAI đang điều tra các trường hợp cụ thể. Một nguồn tin cho biết hành vi “vượt ngục” nói trên có phạm vi ảnh hưởng hạn chế; hiện chưa có dấu hiệu nào cho thấy các đặc vụ này đã thoát khỏi môi trường mạng của OpenAI.
Người phát ngôn OpenAI phản hồi: “Ngoài việc điều tra sự cố xâm nhập Hugging Face, chúng tôi cũng đang xem xét các hoạt động rộng hơn của những mô hình khác trong công ty.”
Dù quy mô sự việc trên còn hạn chế, hành vi mất kiểm soát của các đặc vụ này có thể tiếp tục thúc đẩy chính phủ Mỹ tăng cường quản lý trí tuệ nhân tạo.
Theo các bài viết trước đây của IT之家, Anthropic gần đây cũng cho biết mô hình Claude của công ty từng gây ra ba sự cố an ninh mạng thực tế đáng lẽ không nên xảy ra, với nguyên nhân trực tiếp là cấu hình sai trong môi trường đánh giá của bên thứ ba.
Các chuyên gia an toàn AI cho rằng những trường hợp trên phác họa một tình huống đáng lo ngại: một số phòng thí nghiệm phát triển AI tiên tiến có khả năng tạo ra các đặc vụ nguy hiểm với sức mạnh lớn, trong khi chính những công ty này lại không thể kiểm soát được chúng.
Nguồn tin cho biết OpenAI và các chuyên gia bên ngoài đang phân tích dữ liệu nhật ký từ đầu năm đến nay nhằm tìm hiểu diễn biến của sự cố tấn công.