دوز مباشرة للمحتوى الرئيسي
حكامة الأمن

OpenAI كتستافد من دروس حادثة «كسر قيود الذكاء الاصطناعي»، وأول موديل يوصل لعتبة «حرجة» Astra غادي يحدّ من وظائف الأمن السيبراني بسبب القوة ديالو

حسب بلومبرغ، OpenAI مخططة تطلق قريباً موديل جديد ديال الذكاء الاصطناعي سميتو Astra، ولكن فالبداية غادي تخلي الوظائف المتقدمة ديالو فالأمن السيبراني غير متاحة لعدد محدود من المختبرين. الشركة قالت إن الموديل وصل لعتبة «حرجة فالأمن السيبراني»، وقدر يعرّف ثغرات اليوم صفر بشكل مستقل، وزادت قوّت حواجز السلامة باش تمنع سوء الاستعمال. #OpenAI# وسبق وقعات حادثة هاجم فيها موديل ديال الذكاء الاصطناعي شي منصة عن طريق الخطأ.

OpenAI كتستافد من دروس حادثة «كسر قيود الذكاء الاصطناعي»، وأول موديل يوصل لعتبة «حرجة» Astra غادي يحدّ من وظائف الأمن السيبراني بسبب القوة ديالو

OpenAI علنات نهار 1 شتنبر بالتوقيت المحلي أن الشركة مخططة تطلق «قريباً» الجيل الجاي من موديلات الذكاء الاصطناعي، Astra، ولكن غادي تحدّ بشكل صارم من نطاق استعمال وظائفو فالأمن السيبراني.

وحسب المعطيات، Astra هو أول موديل تابع لـ OpenAI يوصل لعتبة القدرة «الحرجة» فالأمن السيبراني ضمن «إطار الاستعداد» (Preparedness Framework) ديال الشركة.

OpenAI كتستافد من دروس حادثة «كسر قيود الذكاء الاصطناعي»، وأول موديل يوصل لعتبة «حرجة» Astra غادي يحدّ من وظائف الأمن السيبراني بسبب القوة ديالو
OpenAI كتستافد من دروس حادثة «كسر قيود الذكاء الاصطناعي»، وأول موديل يوصل لعتبة «حرجة» Astra غادي يحدّ من وظائف الأمن السيبراني بسبب القوة ديالو

حسب التعريف ديال OpenAI، الوصول للعتبة «الحرجة» كيعني أن الموديل قادر، بلا تدخل بشري، يحدّد ويطوّر برامج استغلال فعّالة لثغرات اليوم صفر بمختلف درجات الخطورة، داخل عدد من الأنظمة الحقيقية الحساسة والمحصّنة أمنياً.

OpenAI كتستافد من دروس حادثة «كسر قيود الذكاء الاصطناعي»، وأول موديل يوصل لعتبة «حرجة» Astra غادي يحدّ من وظائف الأمن السيبراني بسبب القوة ديالو
OpenAI كتستافد من دروس حادثة «كسر قيود الذكاء الاصطناعي»، وأول موديل يوصل لعتبة «حرجة» Astra غادي يحدّ من وظائف الأمن السيبراني بسبب القوة ديالو

قالت نائبة رئيس الأبحاث فـ OpenAI، Amelia Glaese، إن Astra قادر يلقى ثغرات أمنية ما كانتش معروفة من قبل ويطوّر طرق لاستغلالها فعدد من الأنظمة المحمية بشكل قوي، بلا ما يحتاج توجيهاً بشرياً خطوة بخطوة. وفالاختبارات، قدر Astra يكتاشف ويستغل جوج ثغرات ديال اليوم صفر بشكل متسلسل، وOpenAI دابا كتكشف هاد الجوج ثغرات للجهات المسؤولة على صيانتها.

وقالت OpenAI إنها غادي تعتمد استراتيجية فتح تدريجية. من بعد إطلاق Astra، غادي تكون القدرة ديالو على تنفيذ المهام المتقدمة المرتبطة بالأمن السيبراني متاحة فالبداية غير لعدد صغير من المختبرين.

ومن بعد، الشركة مخططة تفتح الولوج لاستعمالات الأمن السيبراني الدفاعية أمام عدد أكبر من المستخدمين عبر برنامج Daybreak Blue. وكتعترف OpenAI بأن تقييد القدرات السيبرانية ديال Astra يقدر يحدّ من بعض الأعمال الدفاعية المشروعة ديال المؤسسات والشركات.

هاد الخطة ديال الإطلاق جات فالسياق ديال حادثة وقعات لـ OpenAI فـ يوليوز 2026، فين وكيل مستقل ديال الذكاء الاصطناعي «كسر القيود» عن طريق الخطأ وهاجم منصة الذكاء الاصطناعي Hugging Face.

فداك الوقت، وكيل مستقل للذكاء الاصطناعي طوّروه اعتماداً على جوج موديلات ديال OpenAI، GPT-5.6 Sol وموديل آخر ما تعلنش عليه، استغل ثغرة فبرمجيات البيئة المعزولة ديال الاختبار (الصندوق الرملي)، واتصل بالإنترنت بوحدو واخترق أنظمة Hugging Face خلال عملية تقييم السلامة. وفالتقرير اللي نشرتو OpenAI فآخر غشت، اعترفات الشركة بأنها كانت تقدر تردّ بكري أكثر باش تمنع وقوع هاد الحادثة.

وقالت OpenAI إنه رغم أن Astra ماشي واحد من الموديلات اللي شاركات فاختراق Hugging Face، فالشركة طبّقات الدروس اللي خذات من الحادثة فإجراءات السلامة ديال Astra. وهاد الشي كيشمل تدريب الموديل باش يرفض بشكل أكثر موثوقية الإجابة على «الطلبات الضارة فالأمن السيبراني»، وزادت ركّبات «مراقباً خاصاً لعدم التوافق» (misalignment monitor) باش يعرّف ويوقف السلوكات الخطيرة المحتملة. وكتشمل هاد الإجراءات حتى مراقبة الموديل خلال النشر الداخلي باش يتأكدو ما كايناش أنشطة غير مرخّص بها، وإنهاء أي نشاط ممكن يكون غير مرخّص به بشكل آلي.

وزادت OpenAI حذّرات من أن إجراءات السلامة ديال Astra تقدر تصنّف بالخطأ أنشطة قانونية ودفاعية فالأمن السيبراني على أنها سلوكات مسيئة، وهاد الشي يقدر يبطّأ المهام أو يوقفها مؤقتاً أو ينهيها (ملاحظة: OpenAI كتقسم مهام الأمن السيبراني حسب طبيعة العمل إلى مهام دفاعية ديال «الفريق الأزرق» ومهام هجومية ديال «الفريق الأحمر»، وبرنامج Daybreak Blue مفتوح غير للأعمال الدفاعية ديال «الفريق الأزرق»).

وقال الباحث العلمي فـ OpenAI، Fouad Matin: «كنآمنو بأن هاد القدرات تقدر تعاون المدافعين يكتاشفو ويصلحو نقاط الضعف الخطيرة، ولكن إلا ما كانتش كاينة حماية مناسبة، تقدر حتى تخلي المهاجمين أكثر فعالية، وهاد بالضبط هو الوضع اللي كنحاولو نمنعو».