Mistral AI نے گزشتہ روز (4 اگست) اعلان کرتے ہوئے Shieldstral مواد کی جانچ کرنے والا AI ماڈل پیش کیا۔ اس کے کل پیرامیٹرز 3B (3 ارب) ہیں، یہ اوپن ویٹس استعمال کرتا ہے اور Apache 2.0 لائسنس کے تحت جاری کیا گیا ہے۔
یہ ماڈل Hugging Face پلیٹ فارم پر دستیاب ہے، 12 زبانوں کو سپورٹ کرتا ہے اور ایک 16GB GPU پر چل سکتا ہے۔ Mistral کے مطابق، مواد کی حفاظت کے معاملے میں اس ماڈل کی کارکردگی اس سے 7 گنا بڑے اوپن ماڈلز کے برابر ہے، اور ملٹی موڈل مواد کی جانچ کے شعبے میں یہ SOTA حاصل کرتا ہے۔
نوٹ: SOTA کا مکمل نام state-of-the-art ہے۔ اس سے مراد کسی مخصوص مصنوعی ذہانت کے کام یا بینچ مارک ٹیسٹ میں بہترین کارکردگی اور جدید ترین معیار رکھنے والے ماڈلز یا الگورتھمز کا مجموعہ ہے۔ ٹیکنالوجی کی ترقی اور نئی تحقیق کی اشاعت کے ساتھ یہ معیار مسلسل تبدیل ہوتا رہتا ہے۔
Mistral نے بتایا کہ زیادہ تر حفاظتی ماڈلز نقصان دہ مواد کی کیٹیگریز کے نظام کو ماڈل ویٹس میں مستقل طور پر شامل کر دیتے ہیں۔ پروڈکٹ کے استعمال کا منظرنامہ تبدیل ہونے کے بعد ڈویلپرز کو عموماً ماڈل دوبارہ تربیت دینا پڑتا ہے۔
Shieldstral اس کے بجائے جانچ کی پالیسی کو ان پٹ مواد میں شامل کرتا ہے: آپریٹر ایک ”ہاں یا نہیں“ سوال لکھ سکتا ہے، پھر جائزے کے منظرنامے اور سختی کی سطح کی وضاحت فراہم کر سکتا ہے۔ اس کے بعد ماڈل ایک واحد آؤٹ پٹ ٹوکن سے کیلیبریٹڈ حفاظتی اسکور تیار کرتا ہے۔
ماڈل جانچ کے ہر کام کو بائنری سوال و جواب میں تبدیل کرتا ہے، اور ان پٹ میں 3 لیبل والے فیلڈز شامل ہوتے ہیں:
<Instruct>: جائزے کے منظرنامے اور سختی کی سطح کی وضاحت کرتا ہے۔
<Query>: ایک ”ہاں یا نہیں“ سوال پیش کرتا ہے، مثلاً ”کیا یہ مواد جسمانی تشدد کی تشہیر کرتا ہے؟“
<Document>: جانچ کے لیے مواد فراہم کرتا ہے، جو پرامپٹ، جواب، پرامپٹ اور جواب کا مجموعہ، یا اختیاری متن کے ساتھ ایک تصویر ہو سکتا ہے۔
استدلال کے دوران ماڈل صرف ”ہاں“ اور ”نہیں“ کے دو ٹوکنز کی منطقی قدریں پڑھتا ہے، پھر softmax کے ذریعے انہیں مسلسل اسکور میں نارملائز کرتا ہے اور 0.5 کو حد مقرر کرتے ہوئے بائنری فیصلہ جاری کرتا ہے۔ یہ طریقۂ کار پرامپٹ کی درجہ بندی، جوابات کی جانچ، انکارِ جواب کی شناخت اور زہریلے پن کی شناخت کا احاطہ کر سکتا ہے۔
