OpenAI cho biết các đánh giá nội bộ và đánh giá từ chuyên gia cho thấy mô hình Astra sắp được phát hành đã đạt bước đột phá lớn trong lĩnh vực lập trình tác nhân và an ninh mạng. Theo "Khung Chuẩn bị" (Preparedness Framework), Astra đã được xếp vào cấp độ rủi ro "Nghiêm trọng" (Critical) đầu tiên của OpenAI trong lĩnh vực an ninh mạng.
Lưu ý: Theo khung này, mô hình AI sẽ chạm ngưỡng "Nghiêm trọng" nếu đáp ứng bất kỳ điều kiện nào sau đây:
Khai thác lỗ hổng zero-day không cần can thiệp: Có thể xác định và phát triển các mã khai thác lỗ hổng zero-day hiệu quả, bao quát mọi mức độ nghiêm trọng, trong nhiều hệ thống quan trọng thực tế đã được tăng cường bảo mật mà không cần sự can thiệp của con người.
Tự chủ khởi động các cuộc tấn công đầu cuối: Chỉ cần được cung cấp mục tiêu chiến lược cấp cao, có thể tự mình lên ý tưởng và thực hiện các cuộc tấn công mạng đầu cuối hoàn toàn mới nhằm vào các mục tiêu đã được tăng cường bảo mật.
OpenAI đặc biệt nhấn mạnh rằng Astra là một mô hình chưa được phát hành và không tham gia vào vụ tấn công mạng nhằm vào Hugging Face trước đó.
Để bảo đảm quá trình phát triển tiếp theo an toàn và tuân thủ quy định, OpenAI tuyên bố đã áp dụng nhiều biện pháp kiểm soát:
Áp dụng các biện pháp kiểm soát an toàn nghiêm ngặt hơn đối với các mô hình có năng lực cao và các hoạt động nghiên cứu, phát triển liên quan, bao gồm thiết lập môi trường kiểm thử biệt lập, hạn chế quyền truy cập mạng và công cụ, tăng cường bảo vệ và mã hóa trọng số mô hình, triển khai thêm năng lực giám sát và phát hiện, cũng như vận hành trong sandbox; đồng thời tạm dừng mọi hoạt động nội bộ liên quan đến Astra chưa đáp ứng các tiêu chuẩn an toàn nâng cao nêu trên.
Triển khai giám sát toàn cục đối với tất cả ứng dụng tác nhân của Astra, bao gồm cả giai đoạn huấn luyện và đánh giá, bao quát các hành vi rủi ro cao và tình trạng mất căn chỉnh. Thông qua việc rà soát chuỗi suy luận (CoT) của mô hình, OpenAI đánh giá và ngăn chặn các thao tác rủi ro cao.
Hợp tác với các cơ quan chính phủ liên quan và các tổ chức an toàn AI được chỉ định để cùng kiểm thử mô hình; cung cấp cho các đối tác kiểm thử bên thứ ba các quy chuẩn kiểm soát an toàn được khuyến nghị, nhằm bảo đảm các hoạt động đánh giá và khối lượng công việc có rủi ro cao hơn có thể được thực hiện trong trạng thái an toàn.
Giám đốc điều hành OpenAI Sam Altman sau đó cho biết Astra là một mô hình có hiệu năng mạnh mẽ và chúng tôi đang nỗ lực hết sức để phát hành công khai mô hình này.
Chúng tôi luôn cho rằng việc giới hạn các mô hình hàng đầu trong tay một số ít người không phải là một chiến lược tốt.
Tuy nhiên, do Astra có năng lực mạnh mẽ trong lĩnh vực an ninh mạng, chúng tôi vẫn cần thêm một chút thời gian để bảo đảm mọi thứ an toàn tuyệt đối. Hy vọng mọi người sẽ không phải chờ quá lâu!
