Shieldstral آپریشن میں

Shieldstral، Mistral AI کا تیار کردہ 3B پیرامیٹرز پر مشتمل اوپن سورس ملٹی موڈل مواد کی حفاظت کا درجہ بند ماڈل ہے، جو Ministral-3B پر مبنی ہے۔ یہ ماڈل روایتی مقررہ زمروں پر مبنی مواد کی جانچ کو بائنری سوال و جواب کے کام میں تبدیل کرتا ہے، قدرتی زبان کے سوالات کے ذریعے حقیقی وقت میں جانچ کی پالیسیاں متعین کرنے کی سہولت دیتا ہے، اور دوبارہ تربیت کے بغیر مختلف حالات کے مطابق ڈھل سکتا ہے۔ ماڈل نے متنی حفاظتی بینچ مارک پر اوسط F1 اسکور 84.9% اور ملٹی موڈل حفاظت پر F1 اسکور 83.8% حاصل کیا، دونوں SOTA ہیں۔ اسے صرف ایک 16GB GPU پر تعینات کیا جا سکتا ہے اور یہ 12 زبانوں کو سپورٹ کرتا ہے۔

پالیسی کے مطابق ڈھلنے والی جانچ: حفاظتی پالیسیوں کو قدرتی زبان کے سوالات کی صورت میں داخل کر کے مختلف حالات میں حقیقی وقت کی حسب ضرورت جانچ ممکن بناتا ہے۔
ملٹی موڈل متحدہ شناخت: ایک ہی انٹرفیس کے ذریعے صرف متنی، تصویری اور متن و تصویر پر مشتمل مواد کی حفاظتی جانچ بیک وقت کرتا ہے۔
خلاف ورزیوں کی باریک سطح پر شناخت: موٹے درجے کے بائنری فیصلے سے لے کر 73 پتے کیٹیگریز تک تفصیلی حفاظتی درجہ بندی کو سپورٹ کرتا ہے۔
کیلیبریٹڈ حفاظتی اسکورنگ: softmax نارملائزیشن کے ذریعے 0–1 کی حد میں مسلسل حفاظتی اسکور جاری کرتا ہے اور 0.5 کی حد سے خلاف ورزی کا فیصلہ کرتا ہے۔
ہلکی پھلکی اینڈ ڈیوائس تعیناتی: 3B پیرامیٹرز کا حجم ایک 16GB NVIDIA GPU پر مؤثر inference کی اجازت دیتا ہے اور ہارڈویئر کی ضرورت کم کرتا ہے۔

WeChat پر فالو کریں اور “开源” کا جواب دے کر AI اوپن سورس پروجیکٹ گروپ میں شامل ہوں
بائنری سوال و جواب کا ڈھانچہ: جانچ کے کام کو “yes” اور “no” کے دو آؤٹ پٹ ٹوکنز کی منطقی قدر کی پیش گوئی میں تبدیل کرتا ہے، پھر softmax نارملائزیشن کے ذریعے مسلسل حفاظتی اسکور حاصل کرتا ہے۔
تین شعبوں پر مشتمل ساختی ان پٹ: （جانچ کا منظرنامہ اور سختی）、（ہاں/نہیں حفاظتی سوال）、（جانچ کے لیے مواد） کی معیاری پرامپٹ شکل استعمال کرتا ہے۔
بڑے پیمانے پر تقابلی تربیت: 5410万 نمونوں（4520万 اوپن سورس متون、440万 مصنوعی تقابلی متون、450万 ملٹی موڈل）کی بنیاد پر، ایک ہی مواد کے مختلف سوالات کے تقابلی جوڑوں کے ذریعے ماڈل کی مماثل زمروں میں امتیاز کرنے کی صلاحیت کو تربیت دیتا ہے۔
مصنوعی ڈیٹا میں اضافہ: LLM کے ذریعے حفاظتی متن کو خلاف ورزی کی صورتوں میں تبدیل کرتا ہے اور ہدف زمرے اور متعلقہ زمروں کے تقابلی سوالی جوڑے خودکار طور پر تیار کرتا ہے تاکہ باریک سطح پر امتیاز کی صلاحیت مضبوط ہو۔
LoRA fine-tuning + SLERP انضمام: Ministral-3B پر LoRA کے ذریعے مؤثر fine-tuning کرتا ہے، پھر عوامی ڈیٹا سیٹ اور مصنوعی ڈیٹا سے تربیت یافتہ دو تکمیلی چیک پوائنٹس کو کروی خطی interpolation کے ذریعے ضم کرتا ہے۔

ماحول کی تیاری: ایک 16GB NVIDIA GPU پر Shieldstral ماڈل اور inference فریم ورک تعینات کریں۔
جانچ کی پالیسی متعین کریں: فیلڈ میں جانچ کے منظرنامے، شعبہ جاتی پس منظر اور سختی کے معیار کی وضاحت لکھیں۔
حفاظتی سوال لکھیں: فیلڈ میں بائنری ہاں/نہیں سوال تیار کریں، مثلاً ”کیا مواد جسمانی تشدد کی تشہیر کرتا ہے؟“۔
جانچ کے لیے مواد داخل کریں: متن، تصویر یا متن و تصویر کے مجموعے کو فیلڈ میں رکھ کر ماڈل کو بھیجیں۔
حفاظتی فیصلہ حاصل کریں: ماڈل کے softmax نارملائزڈ مسلسل اسکور کو پڑھیں اور کاروباری ضرورت کے مطابق حد مقرر کر کے بائنری خلاف ورزی کا فیصلہ کریں۔

لچک دار پالیسیاں: جانچ کے معیار قدرتی زبان کے ذریعے حقیقی وقت میں متعین کیے جاتے ہیں، اس لیے نئے حالات کے لیے ماڈل کو دوبارہ تربیت دینے کی ضرورت نہیں۔
نمایاں کارکردگی: 3B پیرامیٹرز والا ماڈل متنی اور ملٹی موڈل حفاظتی بینچ مارکس پر SOTA حاصل کرتا ہے اور 7 گنا بڑے ماڈلز کے برابر کارکردگی دکھاتا ہے۔
ہارڈویئر کے لیے موزوں: صرف ایک 16GB GPU پر چلتا ہے، جس سے کاروباری نجی تعیناتی کی رکاوٹ نمایاں طور پر کم ہوتی ہے۔
متحدہ ڈیٹا: instruction-query-document فارمیٹ کے ذریعے 54.1M متنوع ڈیٹا کو یکجا کرتا ہے، جس میں 12 زبانیں اور متعدد حالات شامل ہیں۔
قابل وضاحت فیصلے: بلیک باکس درجہ بندی لیبلز کے بجائے کیلیبریٹڈ مسلسل اسکور جاری کرتا ہے، جس سے آپریشنز عملہ ضرورت کے مطابق حد کو ایڈجسٹ کر سکتا ہے۔

پروجیکٹ کی سرکاری ویب سائٹ：https://mistral.ai/news/shieldstral/
HuggingFace ماڈل ریپوزٹری：https://huggingface.co/mistralai/Shieldstral-1.0-3B
arXiv تکنیکی مقالہ：https://arxiv.org/pdf/2607.25857

سوشل پلیٹ فارم کے مواد کا خطرہ کنٹرول: صارفین کی جانب سے شائع کردہ متن و تصویر پر مشتمل پوسٹس کی حقیقی وقت میں جانچ کرتا ہے اور مختلف کمیونٹیز کے تعمیری ضوابط کے مطابق متحرک طور پر ڈھلتا ہے۔
AI گفتگو کا حفاظتی تحفظ: صارف کے پرامپٹس میں jailbreak حملوں اور ماڈل کے نقصان دہ یا متعصبانہ جوابات کی شناخت کرتا ہے۔
اشتہارات اور مارکیٹنگ کی تعمیل: اشتہاری مواد میں موجود خلاف ورزی پر مبنی متنی اور تصویری عناصر کو خودکار طور پر جانچتا ہے تاکہ مختلف پلیٹ فارمز پر شائع ہونے والا مواد قانونی رہے۔
آن لائن تعلیمی مواد کی فلٹرنگ: کورس کے مواد اور باہمی تعاملات میں نامناسب معلومات کی شناخت کرتا ہے اور نابالغوں کے تعلیمی ماحول کا تحفظ کرتا ہے۔
کاروباری دستاویزات کا حفاظتی آڈٹ: اندرونی طور پر شیئر کی گئی کثیر لسانی فائلوں میں حساس معلومات اور خلاف ورزی پر مبنی مواد کی خودکار شناخت کرتا ہے۔