مصنوعی ذہانت کی کمپنی Anthropic نے مقامی وقت کے مطابق 30 تاریخ کو ایک اعلان جاری کرتے ہوئے بتایا کہ اپنے Claude کے سائبر سکیورٹی جائزے کی جانچ کے دوران اسے سائبر سکیورٹی کے تین ایسے حقیقی واقعات کا پتا چلا جو پیش نہیں ہونے چاہیے تھے۔ ان کی براہِ راست وجہ تیسرے فریق کے جائزہ ماحول کی غلط ترتیب تھی۔
ان تینوں واقعات میں Anthropic کے ماڈلز کو بغیر کسی پابندی کے “کیپچر دی فلیگ” سائبر حملوں کے کام سونپے گئے تھے۔ سکیورٹی یقینی بنانے کے لیے ایسے کاموں کے ٹیسٹ ماحول کو حقیقی انٹرنیٹ سے الگ ہونا چاہیے، لیکن Anthropic اور جائزہ کار ادارے Irregular کے درمیان غلط فہمی کے باعث جائزہ لیے جانے والے ماڈلز کو حقیقی انٹرنیٹ تک رسائی دے دی گئی۔
پہلے واقعے میں Claude Opus 4.7 نے ایک حقیقی کمپنی کو، جس کا نام فرضی ہدف کے نام سے مماثل تھا، کام کا ہدف سمجھ لیا، اس کے بنیادی ڈھانچے تک رسائی حاصل کی اور اسناد و ڈیٹا بیس کا ڈیٹا نکال لیا۔ یہ سب سے سنگین واقعہ تھا؛ ماڈل کو یہ احساس ہو جانے کے باوجود کہ یہ ایک حقیقی نظام ہے، اس نے حملہ جاری رکھا۔
دوسرے واقعے میں Claude Mythos 5 نے کام مکمل کرنے کے لیے ایک نقصان دہ Python پیکیج حقیقی PyPI پر جاری کر دیا۔ اس نقصان دہ فائل کو 15 حقیقی نظاموں میں ڈاؤن لوڈ کیا گیا، جس کے نتیجے میں اسناد چوری ہو گئیں۔ ماڈل کو مختصر وقت کے لیے احساس ہوا کہ “اگر یہ حقیقی انٹرنیٹ ہے تو صورتِ حال بہت خراب ہو گی”، لیکن اس نے خود کو قائل کر لیا کہ وہ اب بھی نقلی ماحول میں ہے۔
Anthropic کے اندرونی تحقیقی ٹیسٹ ماڈل نے نسبتاً بہتر کارکردگی دکھائی۔ اس نے تقریباً 9000 اہداف کو اسکین کیا، بنیادی طریقوں سے ایک حقیقی کمپنی میں مداخلت کی، اور بعد میں جب اسے احساس ہوا کہ یہ حقیقی ماحول ہے تو اس نے خود حملہ روک دیا۔
Anthropic نے بتایا کہ متعلقہ تمام ماڈلز میں باضابطہ ریلیز کے وقت استعمال کیے جانے والے معیاری سکیورٹی اقدامات تعینات نہیں تھے، تاہم ان سب کو مخصوص سکیورٹی تربیت دی گئی تھی۔ ان حملوں میں صرف کچھ بنیادی تکنیکیں استعمال کی گئیں۔ ماڈلز نے کسی پیچیدہ کمزوری کو دریافت یا استعمال نہیں کیا، نہ ہی انہوں نے خود کو ٹیسٹ ماحول سے باہر منتقل کرنے یا جان بوجھ کر فرار ہونے کی کوشش کی۔