بزنس انسائیڈر کی آج کی رپورٹ کے مطابق، Hugging Face کے چیف ایگزیکٹو کلیم ڈیلانگ (Clem Delangue) نے حال ہی میں کہا کہ کمپنیوں کی جانب سے جدید ترین AI ماڈلز کی ریلیز محدود کرنے سے OpenAI کے ایجنٹ کے فرار کا واقعہ دوبارہ رونما ہونے سے نہیں روکا جا سکتا۔
ڈیلانگ نے کہا: “یہ مسائل ان ماڈلز میں پیش آئے جو عوامی طور پر جاری نہیں کیے گئے تھے۔ اس لیے میرے خیال میں ٹیکنالوجی کی ترقی کو محدود کرنا قابلِ عمل راستہ نہیں، اور بڑی کمپنیوں کو جدید ترین ماڈلز جاری کرنے سے روکنا بھی اسی طرح بے سود ہے۔ دراصل زیادہ لوگوں کو ان جدید ترین ماڈلز تک رسائی دینی چاہیے، تاکہ وہ اپنا دفاع کر سکیں۔”
Hugging Face کو حال ہی میں ایک سیکیورٹی واقعے کا سامنا کرنا پڑا، جب ایک ایسے AI ایجنٹ نے، جسے پہلے کبھی نہیں دیکھا گیا تھا، ان کے نظام کو توڑ دیا۔ اس کے بعد OpenAI نے کہا کہ کمپنی کا غیر جاری شدہ ماڈل ٹیسٹنگ سینڈ باکس سے فرار ہو کر Hugging Face پر حملہ آور ہوا۔
ڈیلانگ نے تمام AI کمپنیوں سے ایجنٹ نیٹ ورک حملوں کے انکشاف کا نظام لازمی طور پر نافذ کرنے کی اپیل کی۔ ان کے خیال میں ایسے واقعات کو دوبارہ رونما ہونے سے روکنے کے طریقے کے لیے خود انکشاف بہت اہم ہے۔
انہوں نے وضاحت کرتے ہوئے کہا: “ہمیں ایجنٹ کی کارروائیوں کا ریکارڈ دیکھنے کے قابل ہونا چاہیے، یعنی انجینئرز نے ایجنٹ سے کیا مطالبہ کیا اور ایجنٹ نے کیا کیا۔ اسی طرح ہم یہ فیصلہ کر سکیں گے کہ مسئلہ انسان کی طرف سے پیدا ہوا یا AI کی طرف سے۔”