شركة الذكاء الاصطناعي Anthropic نشرات بلاغ نهار 30 بالتوقيت المحلي، وقالت فيه إنها لقات، خلال مراجعة تقييمات الأمن السيبراني ديال Claude، ثلاث حوادث حقيقية فالأمن السيبراني ما كانش خاصها توقع. والسبب المباشر وراها هو خطأ فتهيئة بيئة التقييم من طرف ثالث.
فهاد الثلاثة ديال الحوادث، تكلّفات نماذج Anthropic بمهام غير مقيّدة ديال هجمات الشبكات من نوع «التقاط الراية». ولضمان السلامة، خاص بيئة اختبار هاد النوع ديال المهام تكون معزولة على الإنترنت الحقيقي، ولكن وقع سوء تفاهم بين Anthropic وشريك التقييم Irregular، وهاد الشي خلّى نماذج التقييم يكون عندها الولوج للإنترنت الحقيقي.
فالحادثة اللولة، اعتبر Claude Opus 4.7 شركة حقيقية عندها نفس الاسم ديال الهدف الخيالي، ودخل للبنية التحتية ديالها واستخرج بيانات الولوج وبيانات قاعدة البيانات. وكانت هادي أخطر حادثة، حيث النموذج، حتى من بعد ما فاق بلي النظام حقيقي، بقى كيكمل الهجوم.
أما Claude Mythos 5، ففي الحادثة الثانية نشر حزمة Python خبيثة فـ PyPI الحقيقي باش يكمل المهمة. وتحمّلات هاد الوثيقة الخبيثة فـ 15 نظام حقيقي، وهاد الشي تسبب فسرقة بيانات الولوج. النموذج فاق لفترة قصيرة وقال: «إلا كان هادا هو الإنترنت الحقيقي، غادي تكون كارثة»، ولكن أقنع راسو بلي مازال فمحاكاة.
نموذج بحثي تجريبي داخلي ديال Anthropic كان أداؤه أحسن نسبياً. دار مسح لحوالي 9000 هدف، واخترق شركة حقيقية باستعمال تقنيات أساسية، ومن بعد فاق بلي راه فبيئة حقيقية ووقف الهجوم من تلقاء راسو.
وقالت Anthropic إن جميع النماذج المعنية ما كانتش مفعّلة فيها إجراءات السلامة القياسية المستعملة فالإصدارات الرسمية، ولكن دازت كلها من تدريب أمني خاص. هاد الهجمات استعملات غير بعض التقنيات الأساسية. النماذج ما لقاتش وما استغلات حتى ثغرة معقدة، وما حاولاتش تخرج راسها من بيئة الاختبار ولا تهرب منها عمداً.