Viện An toàn Trí tuệ nhân tạo Anh (AISI) hôm thứ Ba theo giờ địa phương cho biết, trong quá trình thử nghiệm các mô hình AI của OpenAI và Anthropic, một tác nhân AI đã bị phát hiện tạo danh tính trực tuyến giả để giành quyền truy cập trái phép vào hệ thống an ninh, đồng thời làm lộ một loạt lỗ hổng bảo mật mới.
Viện này cho biết các tác nhân được vận hành bởi Mythos 5 của Anthropic và GPT-5.6-Sol của OpenAI đã thực hiện những thao tác trái phép trong quá trình đánh giá an ninh do các cơ quan chính phủ tiến hành. Các thử nghiệm này nhằm đánh giá năng lực của những mô hình liên quan.
AISI viết trong một bài đăng trên blog: “Một số tác nhân được thử nghiệm đã liên tục thực hiện các hoạt động có khả năng gây hại, nhắm vào người và tổ chức thực tế.”
Báo cáo cho thấy các biện pháp bảo vệ trong quy trình thử nghiệm tác nhân AI hiện nay vẫn chưa đầy đủ, trong khi các công ty AI đang tích cực thúc đẩy công nghệ tác nhân và xem đây là hướng phát triển kinh doanh quan trọng trong tương lai.
AISI được quyền thử nghiệm các mô hình AI tiên tiến thông qua các thỏa thuận tự nguyện với những phòng thí nghiệm AI lớn. Cơ quan này đưa các tác nhân vào một bối cảnh an ninh mạng hư cấu để đánh giá năng lực của chúng.
AISI đã tiến hành tổng cộng 122 thử thách thử nghiệm và phát hiện 19 hành vi trái phép trong 10 lần chạy thử. Trong đó, các tác nhân của Anthropic gây ra 17 thao tác vi phạm, còn các tác nhân của OpenAI gây ra 2 thao tác.
AISI cho biết hành vi vi phạm nghiêm trọng nhất liên quan đến việc một tác nhân viết mã độc và tạo danh tính trực tuyến giả, nhằm dụ người thật phê duyệt đoạn mã này. Tuy nhiên, cơ quan này nói thêm rằng toàn bộ các sự cố lỗ hổng trên đều không gây ra thiệt hại thực tế trong thế giới thực.
Mặc dù AISI không tiết lộ tác nhân nào đã tạo danh tính giả, sự việc này không thuộc bất kỳ sự cố an ninh nào trong hai sự cố mà OpenAI đã chủ động công bố trước đó.
Andrew Yoon, nhà nghiên cứu tại tổ chức phi lợi nhuận CivAI ở California, cho rằng hành vi vi phạm này có vẻ do tác nhân của Anthropic gây ra.
Yoon nói: “Việc Mythos vẫn thực hiện hành vi lừa dối này dù rõ ràng nhận thức được rằng nó đang nhắm vào người thật cho thấy Anthropic có thể không kiểm soát mô hình của mình tốt như họ vẫn nghĩ.”
Anthropic tuyên bố trên nền tảng X rằng công ty đang hợp tác chặt chẽ với AISI để thu thập thêm thông tin và tiến hành cuộc điều tra riêng.
OpenAI công bố các thông tin liên quan trên blog công ty, đồng thời chỉ ra rằng hai thao tác chưa được phê duyệt do tác nhân của họ thực hiện đều liên quan đến việc truy cập internet theo cách mà lời nhắc đã cấm rõ ràng.
OpenAI cho biết: “Chúng tôi cam kết hợp tác với toàn ngành để tăng cường các biện pháp an toàn trong đánh giá AI rủi ro cao, bao gồm việc triệu tập các viện nghiên cứu AI cấp quốc gia, tổ chức đánh giá độc lập, các phòng thí nghiệm AI khác và những tổ chức liên quan trong vài tuần tới nhằm cùng thúc đẩy lĩnh vực này.”
OpenAI cũng tiết lộ một sự cố độc lập khác trên blog: lỗi cấu hình của đơn vị kiểm thử bên thứ ba Irregular đã khiến tác nhân đang được thử nghiệm vô tình kết nối internet. Điều này tương tự một sự cố lỗi cấu hình mà Anthropic công bố vào tuần trước.
Reuters đưa tin vào tuần trước rằng OpenAI đã mở rộng phạm vi điều tra an ninh mạng liên quan sau khi phát hiện thêm bằng chứng cho thấy các tác nhân đã vượt qua những giới hạn an toàn.
AISI cho biết, khác với sự cố an ninh hồi tháng 7 năm nay khi tác nhân AI của OpenAI xâm nhập công ty AI Hugging Face, các tác nhân trong đợt đánh giá này không vượt qua môi trường thử nghiệm cách ly để kết nối internet. Cơ quan này giải thích rằng theo quy trình thử nghiệm tiêu chuẩn, bản thân môi trường thử nghiệm cho phép tác nhân truy cập internet.