برطانوی مصنوعی ذہانت سیفٹی انسٹی ٹیوٹ (AISI) نے مقامی وقت کے مطابق منگل کو انکشاف کیا کہ OpenAI اور Anthropic کے AI ماڈلز کی جانچ کے دوران ایک AI ایجنٹ نے جعلی آن لائن شناخت بنا کر سیکیورٹی نظام تک غیر مجاز رسائی حاصل کی، جس سے متعدد نئے سیکیورٹی خطرات بھی سامنے آئے۔
ادارے نے بتایا کہ Anthropic کے Mythos 5 اور OpenAI کے GPT-5.6-Sol سے چلنے والے ایجنٹس نے سرکاری ادارے کی جانب سے کیے گئے سیکیورٹی جائزے کے دوران غیر مجاز کارروائیاں کیں۔ ان ٹیسٹوں کا مقصد متعلقہ ماڈلز کی صلاحیتوں کا جائزہ لینا تھا۔
AISI نے ایک بلاگ پوسٹ میں کہا: ”ٹیسٹ کیے گئے بعض ایجنٹس نے ممکنہ طور پر نقصان دہ سرگرمیاں مسلسل جاری رکھیں، جن کا ہدف حقیقی افراد اور تنظیمیں تھیں۔“
یہ رپورٹ موجودہ AI ایجنٹس کے ٹیسٹنگ عمل میں حفاظتی انتظامات کی خامیوں کو نمایاں کرتی ہے، جبکہ AI کمپنیاں ایجنٹ ٹیکنالوجی کو بھرپور طریقے سے فروغ دے رہی ہیں اور اسے مستقبل میں کاروباری ترقی کی اہم سمت سمجھتی ہیں۔
AISI نے بڑے AI لیبارٹریز کے ساتھ رضاکارانہ معاہدوں کے ذریعے جدید AI ماڈلز کی جانچ کی اجازت حاصل کی۔ ادارے نے ان ایجنٹس کو ایک فرضی سائبر سیکیورٹی منظرنامے میں داخل کیا تاکہ ان کی صلاحیتوں کا جائزہ لیا جا سکے۔
AISI نے مجموعی طور پر 122 ٹیسٹ چیلنجز کیے، جن میں 10 ٹیسٹ رنز کے دوران غیر مجاز رویے کے 19 واقعات دریافت ہوئے۔ ان میں Anthropic کے ایجنٹس 17 خلاف ورزیوں کے ذمہ دار تھے، جبکہ OpenAI کے ایجنٹس نے مزید 2 خلاف ورزیاں کیں۔
AISI کے مطابق، سب سے سنگین خلاف ورزی میں ایک ایجنٹ نے بدنیتی پر مبنی کوڈ لکھا اور جعلی آن لائن شناختیں بنائیں تاکہ حقیقی افراد کو یہ کوڈ منظور کرنے پر آمادہ کیا جا سکے۔ تاہم ادارے نے مزید کہا کہ ان تمام خطرات کے واقعات سے حقیقی دنیا میں کوئی عملی نقصان نہیں ہوا۔
اگرچہ AISI نے یہ نہیں بتایا کہ جعلی شناختیں کس ایجنٹ نے بنائیں، تاہم یہ واقعہ OpenAI کی جانب سے پہلے ازخود ظاہر کیے گئے دو سیکیورٹی واقعات میں سے کسی ایک سے متعلق نہیں ہے۔
کیلیفورنیا کی غیر منافع بخش تنظیم CivAI کے محقق Andrew Yoon نے کہا کہ بظاہر یہ خلاف ورزی Anthropic کے ایجنٹ نے کی ہو سکتی ہے۔
Yoon نے کہا: ”Mythos نے واضح طور پر یہ جانتے ہوئے بھی کہ وہ حقیقی افراد کو ہدف بنا رہا ہے، یہ فریب پر مبنی کارروائی کی۔ اس سے ظاہر ہوتا ہے کہ Anthropic کا اپنے ماڈل پر کنٹرول شاید اتنا مضبوط نہیں جتنا وہ خود سمجھتے ہیں۔“
Anthropic نے سوشل پلیٹ فارم X پر ایک بیان میں کہا کہ کمپنی مزید تفصیلات حاصل کرنے اور اپنی تحقیقات کرنے کے لیے AISI کے ساتھ قریبی تعاون کر رہی ہے۔
OpenAI نے اپنے کمپنی بلاگ میں متعلقہ تفصیلات جاری کرتے ہوئے بتایا کہ اس کے ایجنٹس کی جانب سے کی گئی دونوں غیر منظور شدہ کارروائیوں میں انٹرنیٹ تک ایسے طریقے سے رسائی شامل تھی جسے پرامپٹس میں واضح طور پر ممنوع قرار دیا گیا تھا۔
OpenAI نے کہا: ”ہم پوری صنعت کے ساتھ مل کر کام کرنے اور زیادہ خطرے والے AI کے جائزوں سے متعلق سیکیورٹی طریقہ کار کو مضبوط بنانے کے لیے پرعزم ہیں۔ اس میں آئندہ چند ہفتوں کے دوران قومی سطح کے AI تحقیقی اداروں، آزاد جائزہ لینے والے اداروں، دیگر AI لیبارٹریز اور متعلقہ تنظیموں کو اکٹھا کرنا بھی شامل ہے تاکہ اس شعبے کی مشترکہ ترقی کو فروغ دیا جا سکے۔“
OpenAI نے اپنے بلاگ میں ایک اور الگ واقعے کا بھی انکشاف کیا: تیسرے فریق کی ٹیسٹنگ ایجنسی Irregular کی کنفیگریشن میں خرابی کے باعث اس کے ٹیسٹ میں شامل ایجنٹس غیر ارادی طور پر انٹرنیٹ سے منسلک ہو گئے۔ یہ واقعہ گزشتہ ہفتے Anthropic کی جانب سے ظاہر کیے گئے اسی نوعیت کی کنفیگریشن کی ایک خرابی کے واقعے سے مماثلت رکھتا ہے۔
رائٹرز نے گزشتہ ہفتے رپورٹ کیا تھا کہ OpenAI نے اس وقت متعلقہ ہیکنگ سیکیورٹی تحقیقات کا دائرہ وسیع کر دیا ہے، جب اسے ایجنٹس کی جانب سے سیکیورٹی پابندیاں توڑنے کے مزید شواہد ملے۔
AISI نے بتایا کہ رواں سال جولائی میں OpenAI کے ایجنٹ کے AI کمپنی Hugging Face میں دراندازی کے سیکیورٹی واقعے کے برعکس، اس جائزے میں شامل ایجنٹس نے الگ تھلگ ٹیسٹ ماحول کو توڑ کر انٹرنیٹ سے رابطہ نہیں کیا۔ ادارے نے وضاحت کی کہ اس کے معیاری ٹیسٹنگ طریقہ کار کے مطابق ٹیسٹ ماحول خود ایجنٹس کو انٹرنیٹ تک رسائی کی اجازت دیتا ہے۔