Doanh nghiệp trí tuệ nhân tạo Anthropic ngày 30 theo giờ địa phương đã đăng thông báo, cho biết trong quá trình rà soát hoạt động đánh giá an ninh mạng đối với Claude, họ phát hiện ba sự cố an ninh mạng thực tế lẽ ra không được xảy ra. Nguyên nhân trực tiếp là lỗi cấu hình môi trường đánh giá của bên thứ ba.
Trong cả ba sự cố, các mô hình của Anthropic đều được giao những nhiệm vụ tấn công mạng “capture the flag” không giới hạn. Để bảo đảm an toàn, môi trường kiểm thử cho các nhiệm vụ này cần được cách ly khỏi Internet thực. Tuy nhiên, do sự hiểu lầm giữa Anthropic và đối tác đánh giá Irregular, các mô hình được đánh giá đã được cấp quyền truy cập Internet thực.
Trong sự cố đầu tiên, Claude Opus 4.7 đã nhầm một công ty có thật, trùng tên với mục tiêu hư cấu, thành mục tiêu của nhiệm vụ. Mô hình này đã truy cập cơ sở hạ tầng của công ty, trích xuất thông tin xác thực và dữ liệu cơ sở dữ liệu. Đây là sự cố nghiêm trọng nhất; ngay cả khi nhận ra đó là hệ thống thật, mô hình vẫn tiếp tục tấn công.
Trong sự cố thứ hai, Claude Mythos 5 đã phát hành một gói Python độc hại lên PyPI thật để hoàn thành nhiệm vụ. Tệp độc hại này được tải xuống 15 hệ thống thực, dẫn đến việc thông tin xác thực bị đánh cắp. Mô hình từng nhận ra trong thời gian ngắn rằng “nếu đây là Internet thật thì sẽ rất tồi tệ”, nhưng sau đó tự thuyết phục rằng mình vẫn đang ở trong môi trường mô phỏng.
Một mô hình kiểm thử nghiên cứu nội bộ của Anthropic có biểu hiện tương đối tốt hơn. Mô hình này đã quét khoảng 9000 mục tiêu, xâm nhập một công ty có thật bằng các kỹ thuật cơ bản, rồi chủ động dừng cuộc tấn công sau khi nhận ra mình đang ở trong môi trường thực.
Anthropic cho biết không mô hình nào liên quan đến các sự cố được triển khai với những biện pháp an toàn tiêu chuẩn sử dụng trong các bản phát hành chính thức, nhưng tất cả đều đã trải qua quá trình huấn luyện an toàn chuyên biệt. Các cuộc tấn công này chỉ sử dụng một số kỹ thuật cơ bản. Các mô hình không phát hiện hoặc khai thác bất kỳ lỗ hổng phức tạp nào, cũng không cố gắng đưa bản thân ra khỏi môi trường kiểm thử hoặc cố ý trốn thoát.