أعلنت شركة Anthropic الأميركية الناشئة المتخصصة في الذكاء الاصطناعي في تدوينة نشرتها أمس أنها تحدّث آلية الحماية البيولوجية في نموذج Claude Fable 5، ما يقلّل بشكل كبير من حالات الحجب الخاطئ. ومن الآن فصاعداً، ستقلّ حالات تقييد النظام بعد طرح مستخدمي Fable 5 أسئلة متعلقة بعلم الأحياء.
ووفقاً لبيانات الاختبارات الرسمية التي أجرتها Anthropic، أدّى هذا التحديث إلى تقليل حالات تقييد الإجابات المتعلقة بعلم الأحياء بنسبة 85%، وأصبح Fable 5 قادراً الآن على معالجة نطاق أوسع من المهام البيولوجية.
وأوضحت Anthropic أن بعض المستخدمين الخبيثين قد يستعملون نموذج Fable 5 لإجراء أبحاث حول الأسلحة البيولوجية وغيرها من الأنشطة عالية الخطورة. وللحد من هذه الممارسات، خصّصت الشركة مصنّفات سلامة لـ Claude، تُستخدم لاكتشاف ما إذا كان المستخدم يطلب من Fable 5 تنفيذ مهام بيولوجية محمية أو إنشاء محتوى ضار.
عدّلت Anthropic الآن آلية عمل مصنّفات السلامة، لتتمكن من التمييز بدقة أكبر بين الأسئلة غير الضارة وتلك عالية الخطورة.
ومع ذلك، وللحد من مخاطر الذكاء الاصطناعي المستمرة، سيواصل Fable 5 تقييد الطلبات المتعلقة بأبحاث علم الأحياء المتخصصة وتطوير الأدوية.