Shieldstral خدام

Shieldstral هو موديل مفتوح المصدر لتصنيف سلامة المحتوى متعدد الوسائط، طوّراتو Mistral AI وبـ3 مليارات ديال المعاملات، ومبني على Ministral-3B. كيعيد الموديل تعريف مراقبة المحتوى التقليدية، اللي كتَعتمد على فئات ثابتة، وكيحوّلها لمهمة ديال أسئلة وأجوبة ثنائية. كيدعم تعريف سياسات المراجعة بشكل فوري عبر استعلامات باللغة الطبيعية، بلا ما تكون الحاجة لإعادة التدريب، وكيقدر يتأقلم مع سيناريوهات مختلفة. حقق الموديل متوسط F1 قدره 84.9% فمعايير سلامة النصوص، و83.8% فسلامة المحتوى متعدد الوسائط، بجوجهم فمستوى SOTA، وكيحتاج غير لبطاقة GPU وحدة بذاكرة 16GB باش يخدم، مع دعم 12 لغة.

المراجعة المتكيفة مع السياسات: كتدخل سياسات السلامة على شكل أسئلة باللغة الطبيعية، باش تدير مراجعة مخصصة وفورية حسب كل سيناريو.
الكشف الموحد متعدد الوسائط: واجهة وحدة كتتعامل فالنفس الوقت مع النصوص، والصور، والمحتوى المخلط بين النص والصورة، باش تقيّم السلامة.
التعرّف الدقيق على المخالفات: كيدعم التصنيف من الحكم الثنائي العام حتى لـ73 فئة نهائية للتصنيف المفصل ديال السلامة.
نقط السلامة المعايرة: كيخرج نقاط سلامة مستمرة بين 0 و1 عبر تطبيع softmax، وكيستعمل العتبة 0.5 للحكم على وجود مخالفة.
النشر الخفيف على الأجهزة الطرفية: الحجم ديالو، اللي فيه 3 مليارات ديال المعاملات، كيخليه يخدم بكفاءة على بطاقة NVIDIA GPU وحدة بذاكرة 16GB، وكيقلل من متطلبات العتاد.

تابعونا على WeChat وردّو بـ“开源” باش تنضمو لمجموعة مشاريع الذكاء الاصطناعي مفتوحة المصدر
بنية الأسئلة والأجوبة الثنائية: كتحوّل مهمة المراجعة لتوقّع القيمة المنطقية لجوج كلمات إخراج: “yes” و“no”، ومن بعد كيتدار ليها تطبيع softmax باش نتحصلو على نقطة سلامة مستمرة.
إدخال منظم بثلاثة حقول: كيعتمد على صيغة موحدة للتلقين فيها (سيناريو التقييم ودرجة الصرامة)، و(سؤال السلامة بنعم/لا)، و(المحتوى اللي خاصو المراجعة).
التدريب بالمقارنة على نطاق واسع: اعتماداً على 5410 مليون عينة (4520 مليون نص مفتوح المصدر، و440 مليون نص مقارن مُولّد، و450 مليون عينة متعددة الوسائط)، كيتدرّب الموديل بأزواج مقارنة فيها نفس المحتوى مع استعلامات مختلفة، باش يميّز بين الفئات المتشابهة.
تعزيز البيانات الاصطناعية: كيستعمل LLM لإعادة صياغة النصوص الآمنة على شكل نسخ مخالفة، وكيولّد أوتوماتيكياً أزواج استعلامات مقارنة بين الفئة المستهدفة والفئات القريبة منها، باش يقوّي التمييز الدقيق.
ضبط LoRA + دمج SLERP: كيدير ضبطاً فعالاً بـLoRA لموديل Ministral-3B، ومن بعد كيدمج عبر الاستيفاء الخطي الكروي نقطتي تحقق متكاملتين، تدرّبو وحدة على البيانات العامة ووحدة على البيانات الاصطناعية.

تحضير البيئة: نشّرو موديل Shieldstral وإطار الاستدلال على بطاقة NVIDIA GPU وحدة بذاكرة 16GB.
تعريف سياسة المراجعة: كتكتب فالحقل وصفاً لسيناريو التقييم، والخلفية ديال المجال، ومعايير درجة الصرامة.
كتابة استعلام السلامة: كتصايب فالحقل سؤالاً ثنائياً بنعم/لا، بحال: “واش المحتوى كيشجّع على العنف الجسدي؟”.
إدخال المحتوى المراد مراجعته: كتدخل النص، أو الصورة، أو التركيبة بين النص والصورة فالحقل وكتصيفطها للموديل.
الحصول على الحكم ديال السلامة: كتقرا النقطة المستمرة اللي خرجها الموديل من بعد تطبيع softmax، وكتحدد العتبة حسب متطلبات الخدمة باش تدير الحكم الثنائي على وجود مخالفة.

مرونة السياسات: معايير المراجعة كتتحدد فورياً باللغة الطبيعية، بلا ما تكون الحاجة لإعادة تدريب الموديل مع كل سيناريو جديد.
أداء متقدم: موديل بـ3 مليارات ديال المعاملات كيحقق SOTA فمعايير سلامة النصوص والمحتوى متعدد الوسائط، وكيقارب أداء موديلات أكبر منو بـ7 مرات.
متطلبات عتاد منخفضة: كيخدم ببطاقة GPU وحدة بذاكرة 16GB، وكيقلل بشكل كبير من عتبة النشر الخاص بالشركات.
توحيد البيانات: كيدمج 54.1M من البيانات غير المتجانسة بصيغة التعليمات-الاستعلام-الوثيقة، وكيغطي 12 لغة وسيناريوهات متنوعة.
قرارات قابلة للتفسير: كيخرج نقاطاً مستمرة ومعايرة بدل تصنيفات مغلقة، وهاد الشي كيسهّل على فرق التشغيل تعديل العتبة حسب الحاجة.

الموقع الرسمي للمشروع: https://mistral.ai/news/shieldstral/
مستودع الموديل على HuggingFace: https://huggingface.co/mistralai/Shieldstral-1.0-3B
البحث التقني على arXiv: https://arxiv.org/pdf/2607.25857

مراقبة مخاطر المحتوى فمواقع التواصل: مراجعة المنشورات اللي فيها نصوص وصور فالحين، والتأقلم معايير المطابقة المختلفة ديال كل مجتمع.
حماية محادثات الذكاء الاصطناعي: الكشف على هجمات كسر الحماية فطلبات المستخدمين، وعلى الردود المضرة أو المتحيزة اللي كيخرجها الموديل.
مطابقة الإعلانات والتسويق للمعايير: الفحص الأوتوماتيكي للعناصر النصية والصورية المخالفة فمواد الإعلانات، باش يضمن قانونية المحتوى المنشور عبر المنصات.
تصفية محتوى التعليم عن بُعد: التعرّف على المعلومات غير المناسبة فالمقررات والأنشطة التفاعلية، وحماية بيئة تعلّم القاصرين.
مراجعة سلامة وثائق الشركات: الكشف الأوتوماتيكي على المعلومات الحساسة والمحتوى المخالف فملفات متعددة اللغات المتبادلة داخلياً.