تيبو سوتيو (Thibault Sottiaux)، المسؤول على فريق OpenAI Codex، نشر اليوم تدوينة طويلة فـ X، جاوب فيها على مشكل حذف ملفات بعض المستعملين بالخطأ من بعد استعمال نماذج سلسلة GPT-5.6 فـ Codex.
قال سوتيو باللي من شي أسابيع، بداو كايوصلوهم من حين لآخر شكايات من عدد قليل ديال مستعملي Codex، مفادها أن النموذج نفّذ عمليات تخريبية ماعطاوهاش الإذن من بعد استعمال نماذج سلسلة GPT-5.6 فـ Codex. واكتاشفات OpenAI أن أوامر كان خاصها تمسح الملفات المؤقتة مسحات ملفات ديال المستعملين بالخطأ.
فواحد من هاد الحالات، كان Codex كايعاود يستعمل متغيرات النظام البيئية بحال $HOME فالأعمال المؤقتة. وبهذا الشكل، يقدر أمر تنظيف خاطئ يوجّه للملف الرئيسي الحقيقي ديال المستعمل. وفبعض الحالات، كان النموذج كايحاول يمسح أو يكتب فوق مسار مؤقت بلا مايتأكد من المحتوى اللي كاين فيه من قبل. هادي هي لقطة الشاشة المرتابطة بالموضوع:
وردّ سوتيو على هاد المشكل وقال باللي تزادو عدة مستويات ديال الحماية:
دابا كايتوجّه Codex بشكل واضح باش يتأكد من الملفات المستهدفة بالحذف قبل ماينفذ العملية، وينشئ مجلدات مؤقتة جديدة، ومايعاودش يستعمل متغيرات النظام البيئية، ويفضّل العمليات اللي يمكن التراجع عليها، ويوقف العملية إلا كان النطاق ماواضحش.
قوّات OpenAI عمليات التحقق قبل التنفيذ، وحسّنات التعرف على أوامر الحذف عالية الخطورة وكتبلّغ عليها للمراجعة. إلا ترفض الأمر، غادي يعتمد النموذج طريقة أكثر أماناً.
صعّبات OpenAI تفعيل صلاحيات الولوج الكامل بالخطأ، وزادت تحذيرات أوضح، وقيّدت أكثر التركيبات ديال الصلاحيات الخطيرة بزاف.
حدّثات OpenAI المراجعة الآلية باش تولّي كتتعرف بشكل أحسن على السلوك التخريبي.
بنات OpenAI نماذج تقييم مخصصة لإعادة إنتاج حالات الفشل اللي لاحظاتها. وزدنا حتى مهام للتعلم المعزز ومقيّمين مركزين على هاد المخاطر، وحيدنا السلوك التخريبي من بيانات التدريب.