Anthropic کی جانب سے مقامی وقت کے مطابق 14 اگست کو جاری کردہ تازہ ترین حفاظتی رپورٹ کے مطابق، کیمیائی اور حیاتیاتی ہتھیاروں سے متعلق خطرناک درخواستوں کو روکنے کے لیے استعمال کیے جانے والے کمپنی کے بعض حفاظتی درجہ بندی کنندگان طویل عرصے تک غیر فعال رہے۔
اس کے نتیجے میں مئی 2025 سے اپریل 2026 کے دوران بیرونی ٹھیکیداروں کی جانب سے انسانی فیڈبیک فراہم کرتے وقت تیار ہونے والی بڑی تعداد میں درخواستوں کی فلٹرنگ نہیں ہو سکی۔ Anthropic نے کہا کہ داخلی تحقیقات میں فی الحال متعلقہ درخواستوں کے حقیقی غلط استعمال کے کوئی شواہد نہیں ملے۔
Anthropic کی جانب سے جاری کردہ حفاظتی طریقۂ کار کی وضاحت کے مطابق، اس کے حقیقی وقت کے پرامپٹ اور آؤٹ پٹ درجہ بندی کنندگان صارف کے ان پٹ اور ماڈل کے تیار کردہ مواد کا تجزیہ کرتے ہیں، اور متعلقہ خطرات کی نشاندہی ہونے پر ماڈل کو خطرناک کارروائیوں کے لیے استعمال ہونے والی معلومات فراہم کرنے سے روک دیتے ہیں۔ IT之家 کے مطابق، یہ طریقۂ کار کیمیائی، حیاتیاتی، تابکار اور جوہری ہتھیاروں (CBRN) کے خطرات سے نمٹنے کے لیے Anthropic کے اختیار کردہ کثیر سطحی حفاظتی اقدامات میں سے ایک ہے۔
اس بار سامنے آنے والا مسئلہ Anthropic کے بیرونی ٹھیکیداروں سے متعلق تھا۔ رپورٹ کے مطابق، متعلقہ عرصے میں تقریباً 50,000 ٹھیکیداروں نے ماڈل کے ساتھ تقریباً 13 کروڑ 30 لاکھ مکالمے کیے، لیکن تقریباً ایک سال تک اس ٹریفک کو متعلقہ حیاتیاتی حفاظتی درجہ بندی کنندے نے نہیں روکا۔
Anthropic نے کہا کہ ان ٹھیکیداروں کی بنیادی جانچ بیرونی سپلائرز کرتے تھے اور اس عمل میں خامیاں موجود تھیں۔ کمپنی نے بعد ازاں داخلی تحقیقات شروع کیں اور کہا کہ اسے ان درخواستوں کے حقیقی غلط استعمال کے کوئی شواہد نہیں ملے۔ اس کے نتیجے میں Anthropic نے بیرونی ٹھیکیداروں سے متعلق تقاضے مزید سخت کر دیے ہیں۔
Anthropic اس سے قبل حیاتیاتی تحفظ کو اپنے AI حفاظتی نظام میں شامل کر چکا ہے۔ مئی 2025 میں Claude Opus 4 کے اجرا کے وقت کمپنی نے AI حفاظتی سطح 3 (ASL-3) کے حفاظتی اقدامات نافذ کیے تھے، جن میں کیمیائی، حیاتیاتی، تابکار اور جوہری ہتھیاروں کی تیاری یا حصول کے خطرات سے متعلق تعیناتی کی پابندیاں بھی شامل ہیں۔
Anthropic کی موجودہ ذمہ دارانہ توسیع کی پالیسی کے مطابق، حقیقی وقت کے پرامپٹ اور آؤٹ پٹ درجہ بندی کنندگان ماڈل کے ان پٹ اور آؤٹ پٹ کی مسلسل نگرانی کرتے ہیں، اور نقصان دہ نمونوں، جیل بریک کے طریقوں اور ابہام پیدا کرنے والی تکنیکوں کی مسلسل دریافت کے ساتھ اپ ڈیٹ ہوتے رہتے ہیں۔ کمپنی ریڈ ٹیم ٹیسٹنگ، بگ باؤنٹی پروگرام اور آف لائن نگرانی جیسے طریقوں کو اضافی حفاظتی اقدامات کے طور پر بھی استعمال کرتی ہے۔
جولائی 2026 میں Anthropic نے Claude Fable 5 سے متعلق حفاظتی اقدامات جاری کرتے ہوئے حیاتیاتی اور کیمیائی شعبوں کے خطرات پر بھی دوبارہ زور دیا۔ کمپنی نے کہا کہ Fable 5 کی بنیادی صلاحیت ایک خاص سطح تک پہنچنے کے بعد بدنیت عناصر کو اضافی مدد فراہم کر سکتی ہے، اس لیے متعلقہ درخواستوں کو محدود کرنے کے لیے درجہ بندی کنندگان کا استعمال ضروری ہے۔
Anthropic نے یہ بھی تسلیم کیا کہ حد سے زیادہ سخت حفاظتی درجہ بندی کنندگان معمول کی سائنسی تحقیق کو بھی متاثر کر سکتے ہیں۔ Fable 5 کے معاملے میں حیاتیاتی اور کیمیائی شعبوں سے متعلق بڑی تعداد میں درخواستیں Claude Opus 4.8 کو منتقل کر کے پراسیس کی جائیں گی، اور کمپنی حفاظتی طریقۂ کار میں بہتری کے ساتھ پابندیوں کا دائرہ بتدریج محدود کرنے کا ارادہ رکھتی ہے۔
Anthropic نے کہا ہے کہ وہ تحقیقات کے نتائج کی بنیاد پر بیرونی ٹھیکیداروں کی جانچ اور انتظامی تقاضوں کو مزید مضبوط کر چکا ہے۔ کمپنی کی عوامی ذمہ دارانہ توسیع کی پالیسی سے یہ بھی ظاہر ہوتا ہے کہ وہ کیمیائی اور حیاتیاتی ہتھیاروں جیسے زیادہ خطرناک شعبوں کے لیے حفاظتی معیارات میں مسلسل调整 کر رہی ہے۔