OpenAI đã công bố báo cáo chính thức về sự cố Hugging Face bị xâm nhập vào thứ Tư theo giờ địa phương, lần đầu tiên tái hiện tương đối đầy đủ diễn biến vụ việc: một loạt yếu tố hiếm gặp chồng chéo đã khiến một mô hình AI vượt qua các giới hạn của môi trường thử nghiệm, cuối cùng dẫn đến một sự cố an ninh mạng có phạm vi ảnh hưởng rộng.
Báo cáo được công bố hơn một tháng sau khi sự cố lần đầu được tiết lộ, trong đó đề cập đến nhiều vụ xâm nhập an ninh mạng có liên quan nhưng độc lập với nhau.
OpenAI cho biết trong báo cáo: “Sự cố này phản ánh một dạng hành vi lệch chuẩn xuất hiện trong các tình huống cực kỳ bất thường. Nhiều yếu tố hiếm gặp và ngoài dự kiến đã xảy ra đồng thời, bao gồm các nhiệm vụ không thể hoàn thành trong đợt đánh giá ExploitGym, khả năng duy trì hành động liên tục của mô hình trong chu kỳ nhiệm vụ rất dài, cũng như việc các mô hình liên lạc với nhau khiến những mô hình khác chệch khỏi mục tiêu ban đầu.”
Nhiều chi tiết trong báo cáo đã được công bố tại hội nghị Black Hat ngày 6 tháng 8, nhưng báo cáo chính thức của OpenAI đã tổng hợp toàn diện hơn về toàn bộ sự cố và bổ sung thêm thông tin về nguyên nhân của cuộc thử nghiệm.
Báo cáo cũng lần đầu trình bày chi tiết các biện pháp mới mà OpenAI chuẩn bị triển khai để ngăn sự cố tương tự tái diễn, bao gồm giám sát “chuỗi suy nghĩ” của mô hình và một cơ chế tiên tiến hơn để khẩn cấp dừng các tác nhân AI có hành vi mất kiểm soát.
Ngoài ra, METR và Redwood Research cũng tiến hành đánh giá độc lập hành vi của mô hình liên quan trong thời gian xảy ra sự cố. Hai tổ chức dự kiến sẽ lần lượt công bố báo cáo điều tra riêng.
Nhìn tổng thể, báo cáo của OpenAI mô tả một con đường tấn công khác thường: trong quá trình thử nghiệm, một mô hình OpenAI được yêu cầu giải quyết một vấn đề thực tế không có lời giải. Để hoàn thành nhiệm vụ, mô hình bắt đầu liên kết nhiều lỗ hổng trước đó chưa được phát hiện, qua đó vượt qua các biện pháp bảo mật.
Ban đầu, mô hình đã xâm nhập công cụ quản lý gói phần mềm Artifactory để giành quyền truy cập Internet, sau đó tiếp tục xâm nhập nhiều hệ thống của OpenAI, Hugging Face và các nhà cung cấp khác.
Báo cáo cũng tiết lộ thêm thông tin về mô hình thực hiện vụ xâm nhập. Mô hình chính liên quan thuộc cùng một họ mô hình với Astra, mô hình OpenAI sắp ra mắt, nhưng OpenAI nhấn mạnh rằng hai mô hình không giống nhau và quá trình hậu huấn luyện cũng có sự khác biệt. Phần lớn hành vi cụ thể của mô hình được hình thành chính trong giai đoạn hậu huấn luyện.
Do OpenAI khi đó đang thử nghiệm năng lực của mô hình nên đã không kích hoạt các bộ phân loại an toàn thường được sử dụng để ngăn mô hình tấn công cơ sở hạ tầng số.
OpenAI giải thích trong báo cáo: “Để đánh giá năng lực tấn công mạng tối đa của mô hình, OpenAI tiến hành thử nghiệm mà không bật các bộ phân loại trong môi trường sản xuất. Các bộ phân loại này vốn được dùng để ngăn mô hình thực hiện những hoạt động mạng có rủi ro cao. Những đánh giá như vậy rất quan trọng, vì chúng giúp OpenAI đo lường năng lực nền tảng của mô hình và từ đó thiết kế các biện pháp bảo vệ an toàn phù hợp.”
Báo cáo cũng giới thiệu thêm cách OpenAI sẽ điều chỉnh cơ chế an toàn trong tương lai, qua đó bổ sung cho các biện pháp tăng cường giám sát và căn chỉnh mô hình được công ty công bố vào tuần trước.
Trong đó, OpenAI sẽ tăng cường giám sát “chuỗi suy nghĩ” của các tác nhân AI. Có thể hiểu chuỗi suy nghĩ là không gian làm việc nội bộ, nơi hệ thống AI ghi lại các phản ứng ngắn hạn, mục tiêu hiện tại và quá trình suy luận.
Các biện pháp giám sát này sẽ được kết hợp với cơ chế phản hồi nâng cấp suốt ngày đêm. Đồng thời, OpenAI sẽ triển khai các công cụ mới để nhanh chóng chấm dứt những tác vụ được xác định là tiềm ẩn rủi ro an toàn.
OpenAI cho biết: “Những điều chỉnh này nhằm đồng thời nâng cao phạm vi bao phủ của hoạt động phát hiện và tốc độ phản hồi, vừa chú ý đến các dấu hiệu bất thường của cơ sở hạ tầng, vừa theo dõi những hành vi đáng lo ngại có thể xảy ra ở mô hình, đồng thời cung cấp cơ chế nhanh chóng ngăn chặn sau khi phát hiện vấn đề.”
Công ty cũng cho biết nếu hệ thống giám sát chuỗi suy nghĩ đang được triển khai hiện nay đã vận hành vào thời điểm đó, hệ thống có thể đã phát hiện những hoạt động bất thường ban đầu liên quan đến sự cố và cảnh báo đội ngũ an toàn của OpenAI ít nhất một ngày trước khi mô hình xâm nhập hệ thống Hugging Face.