قالت OpenAI إن التقييمات الداخلية وتقييمات الخبراء أظهرت أن نموذج Astra، المرتقب إطلاقه، حقق اختراقات مهمة في برمجة الوكلاء وفي مجال الأمن السيبراني. ووفقاً لـ«إطار الاستعداد» (Preparedness Framework) ديالها، تصنّف Astra كأول نموذج تابع لـ OpenAI يوصل لمستوى مخاطر «حرج» (Critical) فمجال الأمن السيبراني.
ملاحظة: حسب هاد الإطار، كيوصل نموذج الذكاء الاصطناعي لعتبة «حرج» إلا حقق شي شرط من الشروط التالية:
اكتشاف واستغلال ثغرات اليوم صفر بلا تدخل: يقدر، بلا تدخل بشري، يحدّد ويطوّر برامج استغلال فعّالة لثغرات اليوم صفر بمختلف مستويات الخطورة فعدد من الأنظمة الحقيقية الحرجة المحصّنة أمنياً.
شن هجوم شامل من البداية للنهاية بشكل مستقل: يقدر، غير انطلاقاً من أهداف استراتيجية عامة، يتصوّر وينفّذ بشكل مستقل هجوماً سيبرانياً جديداً وشاملاً من البداية للنهاية ضد أهداف محصّنة.
وأكدات OpenAI بالخصوص أن Astra نموذج مازال ما تطلقش، وما شاركش فالهجوم السيبراني اللي استهدف Hugging Face من قبل.
ولضمان أن التطوير اللي جاي يبقى آمناً ومتوافقاً مع القواعد، أعلنت OpenAI أنها خدات مجموعة من إجراءات المراقبة:
فرض ضوابط أمنية أكثر صرامة على النماذج ذات القدرات العالية وعلى أنشطة البحث والتطوير المرتبطة بها، بما فيها إعداد بيئات اختبار معزولة، وتقييد الولوج للشبكة والأدوات، وتعزيز حماية أوزان النماذج وتشفيرها، ونشر قدرات إضافية للمراقبة والكشف، فضلاً عن التشغيل داخل بيئات معزولة؛ كما علّقات جميع الأنشطة الداخلية المرتبطة بـ Astra اللي مازال ما استوفتش معايير الأمان المعززة المذكورة أعلاه.
فرض مراقبة شاملة على جميع تطبيقات الوكلاء ديال Astra، بما فيها مراحل التدريب والتقييم، وتشمل السلوكيات عالية الخطورة وإخفاقات المواءمة. ومن خلال تقييم سلسلة تفكير النموذج (CoT)، كتراجع العمليات عالية الخطورة وكتعترضها.
التعاون مع المؤسسات الحكومية المعنية ومع منظمات مختصة فسلامة الذكاء الاصطناعي لاختبار النموذج بشكل مشترك؛ وتزويد شركاء الاختبار من الأطراف الثالثة بمواصفات موصى بها للضوابط الأمنية، باش تقدر التقييمات وأعباء العمل ذات المخاطر الأعلى تخدم فحالة آمنة.
صرّح الرئيس التنفيذي لـ OpenAI، سام ألتمان (Sam Altman)، لاحقاً بأن Astra نموذج قوي الأداء، وأنهم كيدفعو بكل طاقتهم باش يطلقوه للعموم.
حنا ديما كنعتاقدو أن حصر النماذج الرائدة فإيدين قلة قليلة ماشي استراتيجية مزيانة.
ولكن، بالنظر للقدرات القوية ديالو فمجال الأمن السيبراني، مازال خاصنا شوية ديال الوقت باش نضمنو أن كلشي محكم. كنتمنى ما تضطروش تستناو بزاف!
