التقرير الأمني الأخير اللي نشرتو Anthropic نهار 14 غشت بالتوقيت المحلي كيبيّن باللي بعض المصنّفات الأمنية اللي كتستعملها الشركة لمنع الطلبات الخطيرة المرتابطة بالأسلحة الكيميائية والبيولوجية كان فيها عطب مستمر لمدة طويلة.
هاد الشي خلا عدد كبير من الطلبات اللي تدارَت فإطار الملاحظات البشرية المقدّمة من طرف متعاقدين خارجيين ما يدوزوش من التصفية بين ماي 2025 وأبريل 2026. Anthropic قالت إن التحقيق الداخلي ديالها ما لقا حتى دابا دليل على استعمال هاد الطلبات فعلياً بشكل مسيء.
حسب الشروحات العلنية ديال Anthropic على آليات السلامة، المصنّفات الفورية ديال التعليمات والمخرجات كتحلّل مدخلات المستخدمين والمحتوى اللي كينتجو النموذج، وكتمنع النموذج من تقديم معلومات ممكن تستعمل فتنفيذ سلوكات خطيرة ملي كتتعرف على مخاطر مرتبطة بهاد الشي. وحسب علم IT之家، هاد الآلية غير وحدة من بين تدابير السلامة المتعددة اللي حطّاتها Anthropic لمواجهة مخاطر الأسلحة الكيميائية والبيولوجية والإشعاعية والنووية (CBRN).
المشكل اللي تكشف دابا مرتبط بالمتعاقدين الخارجيين ديال Anthropic. التقرير كيبين باللي تقريباً 50 ألف متعاقد دارو حوالي 1.33 مليار محادثة مع النموذج خلال الفترة المعنية، وهاد الحركة ما دازتش من مصنّف السلامة البيولوجية المعني طيلة قرابة عام.
Anthropic قالت إن هاد المتعاقدين كانو كيتراجعو بالأساس من طرف مزوّدين خارجيين، وإن مساطر الفحص ديالهم كان فيها نقص. من بعد، الشركة بدات تحقيقاً داخلياً وقالت إنها ما لقات حتى دليل على استعمال هاد الطلبات فعلياً بشكل مسيء. ونتيجة لذلك، زادت Anthropic شدّدات المتطلبات المتعلقة بالمتعاقدين الخارجيين.
Anthropic كانت من قبل دمجات الحماية من مخاطر السلامة البيولوجية فالنظام ديالها لأمن الذكاء الاصطناعي. فـ ماي 2025، فعّلات الشركة تدابير الحماية ديال مستوى سلامة الذكاء الاصطناعي 3 (ASL-3) مع إطلاق Claude Opus 4، ومن بينها قيود على النشر لمواجهة مخاطر تطوير أو الحصول على الأسلحة الكيميائية والبيولوجية والإشعاعية والنووية.
وبموجب سياسة التوسّع المسؤول المعمول بها دابا عند Anthropic، المصنّفات الفورية ديال التعليمات والمخرجات كترصد باستمرار مدخلات ومخرجات النموذج، وكتتحدّث حسب الأنماط الضارة وطرق تجاوز الحماية وتقنيات التمويه اللي كيتكتاشفو باستمرار. والشركة كتعتمد حتى على اختبارات الفرق الحمراء، وبرامج مكافآت اكتشاف الثغرات، والمراقبة غير المتصلة بالإنترنت كإجراءات أمنية مكمّلة.
فـ يوليوز 2026، ملي أعلنت Anthropic على تدابير السلامة المرتابطة بـ Claude Fable 5، عاودات شدّدات على المخاطر فالمجالين البيولوجي والكيميائي. وقالت الشركة إن القدرات الأساسية ديال Fable 5، ملي كتوصّل لمستوى معيّن، تقدر تعطي للمسيئين مساعدة إضافية، وهاد الشي كيخلي استعمال المصنّفات ضرورياً للحد من هاد الطلبات.
Anthropic اعترفات فالمقابل بأن المصنّفات الأمنية الصارمة بزاف تقدر تضر حتى بالأنشطة البحثية العادية. وبالنسبة لـ Fable 5، كيتحوّلو دابا عدد كبير من الطلبات المرتابطة بالمجالين البيولوجي والكيميائي للمعالجة من طرف Claude Opus 4.8، والشركة ناوية تضيق نطاق القيود تدريجياً مع تحسّن آليات السلامة.
ودابا، Anthropic كتقول إنها شدّدات، بناءً على نتائج التحقيق، متطلبات فحص وتدبير المتعاقدين الخارجيين. والسياسة العلنية ديالها للتوسّع المسؤول كتبرز حتى هي أنها كتواصل تعديل معايير الحماية الأمنية الخاصة بالمجالات عالية المخاطر، بحال الأسلحة الكيميائية والبيولوجية.