《The Information》 کی مقامی وقت کے مطابق بدھ کی رپورٹ کے مطابق، Meta کے ایک AI ماڈل نے سائبر سکیورٹی ٹیسٹ کے دوران ایک دوسری کمپنی کے نظام میں مداخلت کی۔ بڑی AI کمپنیوں کے بعد یہ ایک اور واقعہ ہے جس میں AI ایجنٹ نے آزمائش کے دوران کسی دوسری کمپنی کے نظام میں مداخلت کی۔
رپورٹ کے مطابق، Meta کے Muse Spark 1.1 ماڈل نے ایک نامعلوم کمپنی کے نظام میں کامیابی سے مداخلت کی اور اس کے اندرونی نظام میں تبدیلیاں کیں۔ یہ اس لیے ممکن ہوا کہ آزمائش کے لیے استعمال ہونے والے ”سینڈ باکس“ ماحول کی ترتیب میں خرابی تھی، جس کے باعث AI ماڈل کو عوامی انٹرنیٹ تک رسائی حاصل ہو گئی۔ رپورٹ نے باخبر ذرائع کے حوالے سے بتایا کہ Meta نے Irregular نامی ایک تیسرے فریق کے جائزہ ادارے کے ساتھ مل کر یہ آزمائش کی۔
رپورٹ کے مطابق، Irregular کی ترتیب میں ہونے والی غلطی کے باعث آزمائشی ماحول میں مسئلہ پیدا ہوا، جس کے بعد ماڈل نے ایک دوسری تیسرے فریق کی سروس میں موجود سکیورٹی کمزوری سے فائدہ اٹھا کر حملہ کیا۔ Meta کے ترجمان نے 《The Information》 کو بتایا کہ یہ صورتِ حال دیگر کمپنیوں کی جانب سے پہلے ظاہر کیے گئے ایسے ہی واقعات سے ملتی جلتی ہے۔
Irregular کے ترجمان نے رائٹرز کو بتایا کہ یہ واقعہ ”Anthropic کی جانب سے گزشتہ ہفتے ظاہر کیے گئے آزمائشی ماحول کے مسئلے سے بالکل یکساں ہے“ اور اس میں ”سینڈ باکس سے فرار“ یا پیچیدہ سائبر حملے کی کارروائی شامل نہیں تھی۔
Irregular نے اپنے بیان میں کہا: ”فی الحال کوئی ایسا مسئلہ موجود نہیں جو حل طلب ہو۔ Irregular ایک وائٹ پیپر تیار کر رہا ہے جس میں آزمائشی ماحول کو محفوظ طریقے سے الگ تھلگ رکھنے اور سائبر سکیورٹی جائزے انجام دینے کے بہترین طریقۂ کار کا اشتراک کیا جائے گا۔“
صرف گزشتہ ہفتے Anthropic نے انکشاف کیا تھا کہ اس کے Claude AI ماڈلز میں سے کچھ نے سائبر سکیورٹی ٹیسٹ کے دوران تین کمپنیوں کے نظام میں مداخلت کی۔ اس سے قبل OpenAI نے بھی بتایا تھا کہ اس کا ایک AI ایجنٹ آزمائش کے دوران قابو سے باہر ہو گیا اور اس نے حملہ شروع کر دیا۔