SemIf آپریشن میں

SemIf (سابقہ OpenJev) ایک اوپن سورس AI فیصلہ ساز ماڈل ہے، جو اوپن سورس ماڈلز کے ذریعے TypeSafe کی بند سروس Jev کے معنوی فیصلہ انٹرفیس پیٹرن کو دوبارہ تخلیق کرتا ہے۔ SemIf ایک ہی فارورڈ پاس میں امیدوار آپشنز کے متعلقہ logits کے اسکور براہِ راست پڑھتا ہے، جبکہ سرور ساختہ نتائج تیار کرتا ہے؛ متعدد سوالات کے درمیان حالت مشترک ہونے پر پریفکس دوبارہ استعمال کیا جا سکتا ہے، جس سے رفتار تقریباً ایک درجے تک بڑھ جاتی ہے۔ SemIf RTX 3090 پر بھی چل سکتا ہے، براؤزر ڈیمو فراہم کرتا ہے، اور اس میں سطر بہ سطر قابلِ تکرار بینچ مارک، درجۂ حرارت کی کیلیبریشن اور 27B ماڈل برج شامل ہیں۔

WeChat پر فالو کر کے “开源” کا جواب دیں اور AI اوپن سورس پروجیکٹ گروپ میں شامل ہوں
براہِ راست logit اسکورنگ: ایک فارورڈ پاس میں امیدوار آپشنز کے logits پڑھ کر احتمال حاصل کیا جاتا ہے؛ جواب کا متن تیار کر کے اس کی تشریح کرنے کے مقابلے میں یہ تقریباً 5 گنا تیز ہے۔
مشترک حالت کا دوبارہ استعمال: متعدد فیصلوں میں ایک ہی سیاق و سباق مشترک ہو تو پریفکس کو ایک بار پہلے سے بھر کر ہر معیار کا سلسلہ وار یا متوازی جائزہ لیا جا سکتا ہے، جس سے تھروپٹ تقریباً ایک درجے تک بڑھ سکتا ہے۔
رن ٹائم پر قابلِ تعریف فیصلے: معیار اور آپشنز کی وضاحتیں درخواست کے ساتھ بھیجی جاتی ہیں؛ فائن ٹیوننگ یا پہلے سے متعین کاموں کی ضرورت نہیں، اس لیے روٹنگ اور دوبارہ کوشش کے فیصلوں جیسے چھوٹے agent فیصلوں کے لیے موزوں ہے۔
مکمل آڈٹ پذیری: مقررہ prompt، ماڈل ورژن، prompt ہیش، سطر بہ سطر آؤٹ پٹ اور معلوم ناکامیاں سب ریپوزٹری میں جمع ہیں، جس سے درست تکرار ممکن ہے۔
درجۂ حرارت کی کیلیبریشن: ورک لوڈ کے مطابق فٹ کی گئی temperature scaling شامل ہے، جو احتمالی اعتماد اور حقیقی درستگی کے باہمی مطابقت کو بہتر بناتی ہے۔
متعدد بیک اینڈز کی معاونت: CUDA GPU، Apple Silicon (MPS/MLX)، CPU اور براؤزر WebGPU ڈیمو کی معاونت۔

ماحول کی تیاری: Python 3.10+، CUDA اور ایسا گرافکس کارڈ انسٹال کریں جو 4B BF16 ماڈل کی گنجائش رکھتا ہو۔
پروجیکٹ انسٹال کریں: ورچوئل ماحول بنانے کے بعد pip install -e '.[test]' چلائیں۔
ان پٹ تیار کریں: JSONL فارمیٹ میں فیصلہ فائل لکھیں؛ ہر سطر میں id، state، question اور options امیدواروں کی فہرست شامل ہو۔
اسکورنگ چلائیں: semif-score --mode direct --model Qwen/Qwen3.5-4B --revision <مقررہ ورژن> --input examples/decisions.jsonl --output results.jsonl چلانے سے ہر سطر کے آپشن احتمالات، وقت اور prompt ہیش حاصل ہوں گے۔
مشترک حالت کا موڈ: جب تمام سطروں کی state بالکل یکساں ہو تو --mode shared استعمال کریں؛ پریفکس کو ایک بار پہلے سے بھرنے کے بعد تمام معیارات کا متوازی جائزہ لیا جائے گا۔
کیلیبریشن کا اطلاق: پروجیکٹ کے فراہم کردہ اسکرپٹ سے ہدفی ورک لوڈ پر temperature scaling فٹ کریں، تاکہ آؤٹ پٹ اعتماد اور حقیقی درستگی میں مطابقت پیدا ہو۔

تیز فیصلہ سازی: آپشنز کے logits براہِ راست پڑھنے سے تخلیق اور تشریح کا مرحلہ ختم ہو جاتا ہے؛ 21 ثنائی فیصلوں میں صرف تقریباً 1 سیکنڈ لگتا ہے، جو JSON تیار کرنے سے 5.2 گنا تیز ہے۔
مشترک پریفکس کا دوبارہ استعمال: ایک بار پری فل، متعدد بار شاخی جائزہ؛ مشترک حالت کے منظرنامے میں تھروپٹ 2.33 سے بڑھ کر زیادہ سے زیادہ 20.03 فیصلے/سیکنڈ ہو جاتا ہے۔
صفر تخلیقی ٹوکن: جواب کا متن سیمپل نہیں کیا جاتا، جس سے JSON فارمیٹ کی غلطیوں، ڈیکوڈنگ لوپس اور آؤٹ پٹ پارسنگ کی ناکامیوں سے بچا جا سکتا ہے۔
کم ہارڈویئر تقاضے: منجمد 4B ماڈل ایک RTX 3090 پر چل سکتا ہے، اور CPU، Apple Silicon اور براؤزر WebGPU بھی معاون ہیں۔
مکمل اوپن سورس اور قابلِ تکرار: تمام prompt، ماڈل ورژن، سطر بہ سطر نتائج اور معلوم ناکامیاں ریپوزٹری میں جمع ہیں، جن کا ایک ایک کر کے آڈٹ اور تصدیق کی جا سکتی ہے۔
اعتماد کی کیلیبریشن: ورک لوڈ کے مطابق temperature scaling شامل ہے، جو احتمالی اعتماد کو حقیقی درستگی کے ساتھ ہم آہنگ کرتی ہے، لہٰذا آؤٹ پٹ کو براہِ راست خودکار فیصلوں میں استعمال کیا جا سکتا ہے۔

پروجیکٹ کی سرکاری ویب سائٹ: https://openjev.com/
GitHub ریپوزٹری: https://github.com/TheoLeeCJ/SemIf-OpenJev

کسٹمر سروس ٹکٹ روٹنگ: صارف کے مسئلے کی وضاحت اور اکاؤنٹ کی حالت کی بنیاد پر ”اکاؤنٹ سپورٹ / بلنگ سپورٹ“ جیسے قطار کے آپشنز کو براہِ راست اسکور کر کے ملی سیکنڈ کی سطح پر خودکار تقسیم کی جا سکتی ہے۔
Agent ایکشن فائر وال: Agent کے زیادہ خطرے والے آپریشن سے پہلے امیدوار کارروائیوں پر ثنائی فیصلہ کیا جاتا ہے؛ 0.700 کی مرکب درستگی پہلے دفاعی حصار کے لیے کافی ہو سکتی ہے۔
شواہد کی بازیافت اور درجہ بندی: کوڈ ریپوزٹری کی تلاش اور انٹرپرائز نالج بیس سوال و جواب (0.929) میں روایتی reranker کی جگہ استعمال کیا جا سکتا ہے؛ ایک فارورڈ پاس میں امیدوار دستاویزات کے اسکور حاصل ہو جاتے ہیں۔
استدلالی نتیجے کی تصدیق: NLI نوعیت کے کاموں میں استعمال کیا جا سکتا ہے، جہاں یہ طے کیا جاتا ہے کہ ”کیا شواہد نتیجے کی حمایت کرتے ہیں“؛ کیلیبریشن کے بعد اعتماد کی قدر براہِ راست زیریں خودکاری کو چلا سکتی ہے۔