نهار الثلاثاء بالتوقيت المحلي، أعلنت OpenAI على مجموعة جديدة ديال سياسات الأمان، كتركّز على التحكم فالحوادث الأمنية اللي يقدرو يوقعو للنماذج خلال الاختبار. وكتشمل الإجراءات الجديدة مراقبة أكثر دقة خلال تطوير النماذج، وزيادة التركيز فمرحلة ما بعد التدريب على مواءمة النماذج وأمانها.
قالت OpenAI فمقالة على مدونتها: «كلما كتزاد قدرات النماذج، كتزاد حتى المخاطر اللي كنواجهوها خلال تطوير واختبار هاد النماذج داخلياً. خاص المعايير اللي حددناها فالمراقبة والمواءمة والأمان تبقى ديماً متقدمة على هاد المخاطر.»
وهاد الشي كيمثّل واحد من أول التعديلات الكبيرة اللي أعلنت عليها OpenAI للعموم فممارسات الأمان من بعد ما كشفت على حادثة Hugging Face نهار 21 يوليوز.
وقال ممثلو OpenAI إن هاد الإجراءات ما تطرحاتش مباشرة بسبب حادثة Hugging Face، ولكن قدرات الأمن السيبراني اللي باينة فالنموذج Astra اللي غادي يخرج قريباً، وزيد عليها السرعة الكبيرة اللي كيتطور بها قطاع الذكاء الاصطناعي كامل، كانو حتى هما من بين الأسباب اللي خلات الشركة تعتمد هاد الإجراءات.
وكشفت OpenAI كذلك أنها من بعد حادثة Hugging Face وقفات تداريب التعلم المعزز (RL) لمدة جوج سيمانات، ولكنها عاودات دابا بدات تدريب بزاف ديال النماذج الأقل خطورة.
وكتبت OpenAI فمدونتها: «ما زلنا موقفين حالياً أكبر برامج التدريب المعزز للنماذج المتقدمة، وفنفس الوقت كنقومو بتداريب وتقييمات على نطاق صغير باش نقيمو سلوك النماذج، ونتأكدو من فعالية إجراءات الأمان، ونحصلو على أدلة إضافية على مواءمة النماذج قبل ما نكملو التقدم.»
وأكدات نائبة رئيس الأبحاث فـ OpenAI، Amelia Glaese، فمقابلة مع الصحافيين، أنه كلما كتزاد قدرات النماذج، غادي تزيد الشركة فصرامة إجراءات المراقبة الأمنية، وأن النماذج الأقوى غادي تخضع لأشد عمليات التدقيق.
وقالت Glaese للصحافيين: «حنا حددنا متطلبات ومعايير للتطوير الآمن. وهاد المتطلبات والمعايير غادي تتبدل حسب مستوى المخاطر اللي كنقيّموه.»
من بعد هاد الحادثة، تعرضات إجراءات الأمن السيبراني ديال OpenAI لانتقادات من الخارج. ففي الحادثة السابقة، قدر النموذج يخترق بيئة التدريب الأصلية من خلال اختراق أداة كتقدر توصل للإنترنت داخل شبكة OpenAI. وكتشمل الإجراءات الأمنية الجديدة اللي أطلقتها OpenAI زيادة تقوية العزل الشبكي، ولكن الشركة ما أعلنتش حتى الآن على التفاصيل التقنية المحددة.
وقالت OpenAI إنه فظل النظام الأمني الجديد، «اختراق حمولة عمل واحدة أو خدمة مساندة ما غاديش بوحدو يتيح للمهاجم ولوجاً غير مرخّص به للإنترنت أو لشبكات داخلية أخرى».
وأهم إجراء أمني فهاد التحديث هو نظام المراقبة الجديد. غادي يفحص هاد النظام العمليات اللي كتتنفذ بواسطة الأدوات، ومسارات الاستدلال اللي يمكن الحصول عليها، وسجلات الأنشطة، باش يحدد مختلف السلوكات غير المرخّص بها. وقالت OpenAI إن الهدف هو إرسال إنذار فمدة ما كتفوتش 30 دقيقة من بعد اكتشاف نشاط مشبوه.
وكتقدّر OpenAI أن موارد الحوسبة اللي كيحتاجها نظام المراقبة هاداك كتساوي تقريباً 20% من استهلاك موارد الحوسبة ديال العملية اللي كتخضع للمراقبة. والتزمات الشركة أنها غادي تنشر تفاصيل أكثر على هاد النظام فمقالات لاحقة على المدونة.
وفوق هاد الشي، ما زال التقرير الرسمي للتحليل اللاحق ديال الحادثة اللي دارتو OpenAI ما تنشرش حتى الآن.