رائٹرز نے آج باخبر ذرائع کے حوالے سے بتایا کہ OpenAI نے Hugging Face پر حملے کے واقعے کی تحقیقات کے دوران خودمختار AI ایجنٹس کے کنٹرول شدہ ماحول سے فرار ہونے کے دیگر واقعات بھی دریافت کیے۔
OpenAI اس وقت مخصوص واقعات کی تحقیقات کر رہا ہے۔ ایک ذریعے نے بتایا کہ مذکورہ ’’جیل بریک‘‘ کارروائیوں کا دائرہ محدود ہے، اور فی الحال کوئی ایسا ثبوت نہیں ملا کہ یہ ایجنٹس OpenAI کے نیٹ ورک ماحول سے فرار ہوئے ہوں۔
OpenAI کے ترجمان نے جواب دیا: ’’Hugging Face پر دراندازی کے واقعے کی تحقیقات کے علاوہ، ہم کمپنی کے دیگر ماڈلز کی وسیع تر سرگرمیوں کا بھی جائزہ لے رہے ہیں۔‘‘
اگرچہ مذکورہ واقعات کا پیمانہ محدود ہے، لیکن ان ایجنٹس کا قابو سے باہر ہونا امریکی حکومت کو مصنوعی ذہانت کے ضابطے مزید سخت کرنے پر آمادہ کر سکتا ہے۔
IT之家 کی سابقہ رپورٹ کے مطابق، Anthropic نے بھی حال ہی میں بتایا کہ اس کے Claude ماڈل نے حقیقی دنیا میں سائبر سکیورٹی کے تین ایسے واقعات کو جنم دیا جو پیش نہیں آنے چاہییں تھے۔ ان کی براہِ راست وجہ تیسرے فریق کے تشخیصی ماحول کی غلط ترتیب تھی۔
AI سکیورٹی ماہرین کا خیال ہے کہ مذکورہ واقعات ایک تشویش ناک صورتِ حال کی عکاسی کرتے ہیں: جدید ترین AI تیار کرنے والی کچھ لیبارٹریاں انتہائی طاقتور خطرناک ایجنٹس تخلیق کر سکتی ہیں، اور یہ کمپنیاں خود ان AI کو قابو کرنے سے قاصر ہیں۔
ذرائع نے بتایا کہ OpenAI اور بیرونی ماہرین اس سال کے آغاز سے اب تک کے لاگ ڈیٹا کا تجزیہ کر رہے ہیں تاکہ حملے کے واقعے کی تفصیلات کو سمجھا جا سکے۔