مجلة Wired کی گزشتہ روز کی رپورٹ کے مطابق، امریکی سائبر سکیورٹی اسٹارٹ اپ Frontier Security نے بتایا کہ کمپنی جب مون شاٹ AI کے Kimi K3 ماڈل کی سائبر سکیورٹی صلاحیتوں کی جانچ کر رہی تھی تو ماڈل اسے محدود کرنے والے سینڈ باکس ماحول سے باہر نکل گیا۔
رپورٹ کے مطابق، یہ AI فرار کا واقعہ OpenAI اور Anthropic کے واقعات سے ملتا جلتا ہے، جس کی براہِ راست وجہ بھی ماڈل کو الگ تھلگ رکھنے کے لیے استعمال کیے جانے والے سینڈ باکس کی غلط ترتیب تھی۔ Frontier Security کے خیال میں دیگر جدید AI ماڈلز کے مقابلے میں Kimi میں نیٹ ورک تحفظ کے طریقۂ کار موجود نہیں ہیں، جس کے باعث یہ ماڈل واضح اجازت کے بغیر انٹرنیٹ تک رسائی حاصل کرنے میں کامیاب ہوا۔
Frontier Security کے چیف ایگزیکٹو آفیسر Yaron Singer نے کہا: “ہم نے دریافت کیا کہ سینڈ باکس میں ایک خامی موجود ہے، لیکن Kimi نے بھی اس خامی سے فائدہ اٹھایا، جس سے ظاہر ہوتا ہے کہ اس میں شاید اسی درجے کے دیگر ماڈلز جیسے اندرونی سکیورٹی میکانزم موجود نہیں ہیں۔”
تاہم، سینڈ باکس توڑنے اور انٹرنیٹ تک رسائی حاصل کرنے کے بعد Kimi K3 نے کوئی حملہ نہیں کیا؛ اس نے صرف GitHub پر ایک سوال کا جواب تلاش کیا۔
حالیہ عرصے میں AI کے فرار کے بڑھتے ہوئے واقعات ظاہر کرتے ہیں کہ AI جتنی زیادہ طاقتور ہوتی جاتی ہے، انسانوں کے لیے اسے قابو میں رکھنا اتنا ہی مشکل ہو جاتا ہے۔ OpenAI نے گزشتہ ماہ انکشاف کیا تھا کہ کمپنی کا ایک غیرعلانیہ اندرونی ماڈل ٹیسٹنگ کے دوران الگ تھلگ ماحول سے باہر نکل گیا اور اس کے بعد Hugging Face پلیٹ فارم پر حملہ کیا۔ بعد ازاں Anthropic نے بھی بتایا کہ اس کے متعدد ماڈلز نے سکیورٹی ٹیسٹنگ کے دوران انٹرنیٹ تک رسائی حاصل کی اور بیرونی نظاموں پر حملہ کیا۔
بعض سائبر سکیورٹی ماہرین نے کہا کہ یہ دریافت ظاہر کرتی ہے کہ انسانوں کو جدید AI ماڈلز کے لیے سینڈ باکس ماحول کو ازسرنو ترتیب دینے کی ضرورت ہے۔ اس کے علاوہ OpenClaw (نوٹ: عام طور پر اسے لوبسٹر کہا جاتا ہے) جیسے ایجنٹس استعمال کرنے والے صارفین کو ماحول کی ترتیب دیتے وقت محتاط رہنا چاہیے تاکہ AI حدود سے تجاوز نہ کرے۔