Hôm thứ Ba theo giờ địa phương, OpenAI đã công bố một loạt chính sách an toàn mới, tập trung vào việc kiểm soát các sự cố an toàn có thể xảy ra với mô hình trong quá trình thử nghiệm. Các biện pháp an toàn mới bao gồm giám sát chi tiết hơn trong quá trình phát triển mô hình, đồng thời tiếp tục tăng cường chú trọng đến việc căn chỉnh và tính an toàn của mô hình trong giai đoạn hậu huấn luyện.
OpenAI cho biết trong một bài đăng trên blog: “Khi năng lực mô hình không ngừng tăng lên, những rủi ro chúng tôi phải đối mặt trong quá trình phát triển và thử nghiệm nội bộ các mô hình này cũng gia tăng. Các tiêu chuẩn chúng tôi đặt ra về giám sát, căn chỉnh và an toàn phải luôn đi trước những rủi ro đó.”
Đây là một trong những điều chỉnh lớn đầu tiên được OpenAI công bố ra bên ngoài về hoạt động an toàn kể từ khi tiết lộ sự cố Hugging Face vào ngày 21 tháng 7.
Đại diện OpenAI cho biết các biện pháp này không được triển khai trực tiếp để ứng phó với sự cố Hugging Face, nhưng năng lực an ninh mạng thể hiện ở mô hình Astra sắp ra mắt, cũng như tốc độ phát triển nhanh chóng của toàn ngành AI, là một phần nguyên nhân thúc đẩy công ty áp dụng các biện pháp này.
OpenAI cũng tiết lộ rằng sau sự cố Hugging Face, công ty từng tạm dừng hoạt động huấn luyện học tăng cường (RL) trong hai tuần, nhưng hiện đã khởi động lại hoạt động huấn luyện nhiều mô hình có mức rủi ro thấp hơn.
OpenAI viết trên blog: “Hiện chúng tôi vẫn tạm dừng kế hoạch huấn luyện học tăng cường tiên phong quy mô lớn nhất, đồng thời tiến hành huấn luyện và đánh giá ở quy mô nhỏ để đánh giá hành vi mô hình, xác minh các biện pháp an toàn và thu thập thêm bằng chứng về mức độ căn chỉnh của mô hình trước khi tiếp tục.”
Amelia Glaese, Phó chủ tịch nghiên cứu của OpenAI, nhấn mạnh trong cuộc phỏng vấn với phóng viên rằng khi năng lực mô hình không ngừng tăng lên, mức độ nghiêm ngặt của các biện pháp kiểm soát an toàn cũng sẽ được nâng cao tương ứng; những mô hình mạnh nhất sẽ phải trải qua quy trình thẩm tra nghiêm ngặt nhất.
Glaese nói với phóng viên: “Chúng tôi đã xây dựng các yêu cầu và tiêu chuẩn về phát triển an toàn. Những yêu cầu và tiêu chuẩn này sẽ được điều chỉnh dựa trên mức độ rủi ro mà chúng tôi đánh giá.”
Sau sự cố này, các biện pháp an ninh mạng của OpenAI đã vấp phải chỉ trích từ bên ngoài. Trong sự cố trước đó, mô hình đã đột nhập vào một công cụ có khả năng truy cập internet trong mạng OpenAI, qua đó phá vỡ môi trường huấn luyện ban đầu. Các biện pháp an toàn mới được OpenAI triển khai lần này bao gồm tăng cường hơn nữa việc cách ly mạng, nhưng hiện công ty chưa công bố chi tiết kỹ thuật cụ thể.
OpenAI cho biết trong hệ thống an toàn mới, “việc một khối lượng công việc riêng lẻ hoặc dịch vụ hỗ trợ bị xâm nhập sẽ không tự nó cho phép kẻ tấn công truy cập internet hoặc các mạng nội bộ khác mà không được cấp phép”.
Biện pháp an toàn quan trọng nhất trong đợt nâng cấp này là hệ thống giám sát mới. Hệ thống sẽ kiểm tra các thao tác do công cụ thực hiện, quỹ đạo suy luận có thể truy xuất và nhật ký hoạt động để nhận diện nhiều hành vi trái phép. OpenAI cho biết mục tiêu là phát cảnh báo trong vòng 30 phút sau khi phát hiện hoạt động đáng ngờ.
OpenAI ước tính tài nguyên tính toán cần thiết cho hệ thống giám sát này tương đương khoảng 20% mức tiêu thụ tài nguyên tính toán của chính quy trình được giám sát. Công ty cam kết sẽ công bố thêm thông tin chi tiết về hệ thống này trong các bài đăng blog sắp tới.
Ngoài ra, báo cáo phân tích chính thức sau sự cố của OpenAI hiện vẫn chưa được công bố.