OpenAI نے کہا کہ داخلی اور ماہرین کے جائزوں سے ظاہر ہوتا ہے کہ جلد ریلیز ہونے والا ماڈل Astra ایجنٹک پروگرامنگ اور سائبر سکیورٹی کے شعبوں میں نمایاں پیش رفت کر چکا ہے۔ اس کے "تیاری کے فریم ورک" (Preparedness Framework) کے مطابق، Astra OpenAI کا پہلا ایسا ماڈل بن گیا ہے جس نے سائبر سکیورٹی کے شعبے میں "اہم" (Critical) خطرے کی سطح حاصل کی ہے۔
نوٹ: اس فریم ورک کے مطابق، AI ماڈل درج ذیل میں سے کسی ایک شرط کو پورا کرنے پر "اہم" کی حد تک پہنچ جاتا ہے:
بغیر مداخلت کے زیرو ڈے کمزوریوں کا استحصال: انسانی مداخلت کے بغیر، متعدد حقیقی اور سکیورٹی کے لحاظ سے مضبوط بنائے گئے اہم نظاموں میں مختلف شدت کی مؤثر زیرو ڈے ایکسپلائٹ کی شناخت اور تیاری۔
خود مختار طور پر اینڈ ٹو اینڈ حملہ شروع کرنا: صرف اعلیٰ سطحی اسٹریٹجک ہدف فراہم کیے جانے پر، مضبوط بنائے گئے ہدف کے خلاف نئے اینڈ ٹو اینڈ سائبر حملے کا خود مختار تصور اور نفاذ۔
OpenAI نے خصوصی طور پر واضح کیا کہ Astra ایک غیر ریلیز شدہ ماڈل ہے اور Hugging Face کے خلاف ہونے والے سابقہ سائبر حملے میں اس کا کوئی کردار نہیں تھا۔
آئندہ کی ترقی کو محفوظ اور ضوابط کے مطابق رکھنے کے لیے، OpenAI نے اعلان کیا ہے کہ اس نے متعدد کنٹرول اقدامات کیے ہیں:
اعلیٰ صلاحیت والے ماڈلز اور متعلقہ تحقیقی و ترقیاتی سرگرمیوں پر مزید سخت سکیورٹی کنٹرول نافذ کیے گئے ہیں، جن میں الگ تھلگ ٹیسٹنگ ماحول قائم کرنا، نیٹ ورک اور ٹولز تک رسائی محدود کرنا، ماڈل کے وزن کے تحفظ اور خفیہ کاری کو مضبوط بنانا، اضافی نگرانی اور کھوج کی صلاحیتیں تعینات کرنا، اور سینڈ باکس میں اجرا شامل ہیں؛ ساتھ ہی اندرونی طور پر Astra سے متعلق وہ تمام سرگرمیاں روک دی گئی ہیں جو مذکورہ مضبوط سکیورٹی معیارات پر پوری نہیں اترتیں۔
Astra کی تمام ایجنٹک ایپلی کیشنز، بشمول تربیت اور جائزے کے مراحل، میں اعلیٰ خطرے والے رویوں اور الائنمنٹ کی ناکامیوں پر محیط عالمی نگرانی نافذ کی گئی ہے۔ ماڈل کی سوچ کے سلسلے (CoT) کا جائزہ لے کر اعلیٰ خطرے والی کارروائیوں کو روکا جاتا ہے۔
متعلقہ سرکاری اداروں اور نامزد AI سکیورٹی تنظیموں کے ساتھ مل کر اس ماڈل کی جانچ کی جا رہی ہے؛ تیسرے فریق کے ٹیسٹنگ شراکت داروں کو تجویز کردہ سکیورٹی کنٹرول ضوابط فراہم کیے جا رہے ہیں، تاکہ زیادہ خطرے والے جائزے اور کام کے بوجھ کو محفوظ حالت میں چلایا جا سکے۔
OpenAI کے چیف ایگزیکٹو آفیسر سیم آلٹمین (Sam Altman) نے بعد میں کہا کہ Astra ایک طاقتور ماڈل ہے، اور ہم اس کی عوامی ریلیز کے لیے پوری کوشش کر رہے ہیں۔
ہم ہمیشہ سے سمجھتے ہیں کہ بہترین ماڈلز کو چند لوگوں تک محدود رکھنا اچھی حکمت عملی نہیں ہے۔
تاہم سائبر سکیورٹی کے شعبے میں اس کی طاقتور صلاحیتوں کے پیش نظر، ہمیں یہ یقینی بنانے کے لیے کچھ مزید وقت درکار ہے کہ سب کچھ مکمل طور پر محفوظ ہو۔ امید ہے آپ کو زیادہ انتظار نہیں کرنا پڑے گا!
