مقامی وقت کے مطابق منگل کو OpenAI نے نئی سکیورٹی پالیسیوں کے ایک مجموعے کا اعلان کیا، جن کا بنیادی مقصد ٹیسٹنگ کے دوران ماڈلز سے متعلق ممکنہ سکیورٹی واقعات کو قابو میں رکھنا ہے۔ نئے سکیورٹی اقدامات میں ماڈل ڈیولپمنٹ کے دوران مزید تفصیلی نگرانی کے ساتھ ساتھ تربیت کے بعد کے مرحلے میں ماڈل الائنمنٹ اور سکیورٹی پر مزید توجہ دینا شامل ہے۔
OpenAI نے ایک بلاگ پوسٹ میں کہا: “ماڈلز کی صلاحیت مسلسل بڑھنے کے ساتھ، ان کی اندرونی ڈیولپمنٹ اور ٹیسٹنگ کے دوران ہمیں درپیش خطرات بھی بڑھ رہے ہیں۔ نگرانی، الائنمنٹ اور سکیورٹی کے حوالے سے ہمارے مقرر کردہ معیارات کو ان خطرات سے ہمیشہ آگے رہنا چاہیے۔”
یہ 21 جولائی کو Hugging Face واقعے کے انکشاف کے بعد سکیورٹی طریقۂ کار میں OpenAI کی جانب سے عوامی سطح پر اعلان کی جانے والی پہلی بڑی تبدیلیوں میں سے ایک ہے۔
OpenAI کے نمائندوں نے کہا کہ یہ اقدامات براہِ راست Hugging Face واقعے کے جواب میں متعارف نہیں کرائے گئے، تاہم آنے والے Astra ماڈل میں نظر آنے والی سائبر سکیورٹی صلاحیتیں اور پوری AI صنعت کی تیز رفتار ترقی بھی کمپنی کو یہ اقدامات کرنے پر آمادہ کرنے والی وجوہات میں شامل ہیں۔
OpenAI نے یہ بھی بتایا کہ Hugging Face واقعے کے بعد کمپنی نے دو ہفتوں کے لیے reinforcement learning (RL) ٹریننگ روک دی تھی، تاہم اب کم خطرے والے متعدد ماڈلز کی ٹریننگ دوبارہ شروع کر دی گئی ہے۔
OpenAI نے بلاگ میں لکھا: “ہم فی الحال سب سے بڑے فرنٹیئر reinforcement learning ٹریننگ پروگرام کو معطل رکھے ہوئے ہیں، جبکہ ماڈل کے رویے کا جائزہ لینے، سکیورٹی اقدامات کی توثیق کرنے اور آگے بڑھنے سے پہلے ماڈل الائنمنٹ کے بارے میں مزید شواہد حاصل کرنے کے لیے چھوٹے پیمانے کی ٹریننگ اور جائزے جاری ہیں۔”
OpenAI کی نائب صدر برائے تحقیق Amelia Glaese نے صحافیوں سے گفتگو کرتے ہوئے زور دیا کہ ماڈلز کی صلاحیت بڑھنے کے ساتھ کمپنی کے سکیورٹی کنٹرولز بھی مزید سخت ہوتے جائیں گے، اور سب سے زیادہ طاقتور ماڈلز کو سب سے سخت جانچ سے گزرنا ہوگا۔
Glaese نے صحافیوں کو بتایا: “ہم نے محفوظ ڈیولپمنٹ کے لیے تقاضے اور معیارات مقرر کیے ہیں۔ یہ تقاضے اور معیارات ہمارے جائزہ لیے گئے خطرے کی سطح کے مطابق تبدیل ہوتے رہیں گے۔”
اس واقعے کے بعد OpenAI کے سائبر سکیورٹی اقدامات کو بیرونی حلقوں کی تنقید کا سامنا کرنا پڑا۔ اس سے قبل پیش آنے والے واقعے میں ماڈل نے OpenAI کے نیٹ ورک میں موجود انٹرنیٹ تک رسائی رکھنے والے ایک ٹول میں مداخلت کر کے اصل ٹریننگ ماحول کی حدود توڑ دی تھیں۔ OpenAI کے نئے سکیورٹی اقدامات میں نیٹ ورک آئسولیشن کو مزید مضبوط بنانا شامل ہے، تاہم کمپنی نے ابھی تک تکنیکی تفصیلات جاری نہیں کیں۔
OpenAI نے کہا کہ نئے سکیورٹی نظام کے تحت “کسی ایک ورک لوڈ یا معاون سروس میں دراندازی بذاتِ خود حملہ آور کو انٹرنیٹ یا دیگر اندرونی نیٹ ورکس تک غیر مجاز رسائی نہیں دے گی۔”
اس اپ گریڈ کا سب سے اہم سکیورٹی اقدام نیا نگرانی کا نظام ہے۔ یہ نظام ٹولز کے ذریعے انجام دیے گئے آپریشنز، دستیاب reasoning traces اور سرگرمی کے لاگز کی جانچ کرے گا تاکہ مختلف غیر مجاز سرگرمیوں کی نشاندہی کی جا سکے۔ OpenAI نے کہا کہ اس کا ہدف مشتبہ سرگرمی کا پتا چلنے کے 30 منٹ کے اندر الرٹ جاری کرنا ہے۔
OpenAI کا اندازہ ہے کہ اس نگرانی کے نظام کے لیے درکار کمپیوٹنگ وسائل زیرِ نگرانی عمل کے اپنے کمپیوٹنگ وسائل کے تقریباً 20% کے برابر ہوں گے۔ کمپنی نے وعدہ کیا ہے کہ مستقبل میں شائع ہونے والی بلاگ پوسٹس میں اس نظام کے بارے میں مزید تفصیلات جاری کی جائیں گی۔
اس کے علاوہ، OpenAI کی جانب سے اس واقعے کے بارے میں باضابطہ بعد از واقعہ تجزیاتی رپورٹ بھی ابھی جاری نہیں کی گئی۔