امریکی مصنوعی ذہانت کی اسٹارٹ اپ کمپنی Anthropic نے گزشتہ روز ایک بلاگ پوسٹ میں بتایا کہ وہ Claude Fable 5 ماڈل کے حیاتیاتی تحفظ کے نظام کو اپ ڈیٹ کر رہی ہے، جس سے غلط بلاکنگ کے واقعات میں نمایاں کمی آئے گی۔ اب Fable 5 کے صارفین حیاتیات سے متعلق سوالات پوچھیں گے تو نظام کی جانب سے درخواست کو محدود کرنے کے واقعات کم ہوں گے۔
Anthropic کے سرکاری ٹیسٹ کے اعداد و شمار کے مطابق، اس اپ ڈیٹ سے حیاتیات سے متعلق سوال و جواب میں تنزلی کے واقعات 85٪ کم ہوئے ہیں، اور Fable 5 اب حیاتیات سے متعلق زیادہ وسیع کام انجام دے سکتا ہے۔
Anthropic نے بتایا کہ بعض بدنیت صارفین Fable 5 ماڈل کو حیاتیاتی ہتھیاروں کی تحقیق جیسی زیادہ خطرناک سرگرمیوں کے لیے استعمال کرتے ہیں۔ اس رجحان کی روک تھام کے لیے کمپنی نے خاص طور پر Claude کے لیے حفاظتی درجہ بندی کے نظام (safety classifiers) تیار کیے ہیں، جو یہ جانچتے ہیں کہ آیا صارف Fable 5 سے محفوظ حیاتیاتی کام انجام دینے یا نقصان دہ مواد تیار کرنے کا مطالبہ کر رہا ہے۔
Anthropic نے اب حفاظتی درجہ بندی کے نظام کے کام کرنے کے طریقۂ کار میں تبدیلی کی ہے، جس سے یہ بے ضرر اور زیادہ خطرناک سوالات میں زیادہ درست فرق کر سکتا ہے۔
تاہم مسلسل AI خطرات سے بچاؤ کے لیے Fable 5 پیشہ ورانہ حیاتیاتی تحقیق اور ادویات کی تیاری سے متعلق درخواستوں کو محدود کرتا رہے گا۔