Laya آپریشن میں

Laya ایک اوپن سورس غیر خودکار AI فیصلہ سازی ماڈل ہے۔ یہ ماڈل متن تخلیق نہیں کرتا، بلکہ ModernBERT/mmBERT دو طرفہ انکوڈر کی بنیاد پر متن اور ٹائپ شدہ سوالات پر صرف ایک فارورڈ پاس کے ذریعے تقریباً 33ms میں ساختی نتائج اور کیلیبریٹڈ احتمالات فراہم کرتا ہے۔ ماڈل میں زبان کی خودکار روٹنگ شامل ہے جو 100+ زبانوں کو سپورٹ کرتی ہے۔ بند ماڈل Jev کے مقابلے میں Laya درستگی (76.6% بمقابلہ 72.7%)، کثیر لسانی معاونت (100+ زبانیں) اور لاگت (مقامی تعیناتی مفت) میں زیادہ فائدہ مند ہے۔

ایک بار میں فیصلہ سازی: ایک اسٹیٹ اور ٹائپ شدہ سوالات کا مجموعہ داخل کریں، ایک فارورڈ پاس میں براہِ راست ساختی نتائج حاصل کریں؛ متن تخلیق نہیں ہوتا، اور وقت تقریباً 33ms ہے۔
تین فیصلہ سازی کے بنیادی عناصر: choice امیدواروں میں سے ایک کا انتخاب کر کے ہر آپشن کا احتمال دیتا ہے؛ score مرتب پیمانے پر اسکور اور تقسیم فراہم کرتا ہے؛ noul ہاں یا نہیں کے سوال کا جواب دے کر درست ہونے کا 0–1 احتمال واپس کرتا ہے۔
خودکار زبان روٹنگ: Router ‏<0.5ms میں ان پٹ کے رسم الخط اور زبان کا پتا لگا کر اسے انگریزی یا کثیر لسانی checkpoint کو بھیجتا ہے، جس سے غلط ماڈل منتخب ہونے کے نتیجے میں ”اعتماد کے ساتھ غلط جواب“ دینے سے بچا جاتا ہے۔
اعتماد کی بنیاد پر گیٹنگ: RLCD ٹریننگ کے ذریعے احتمالات شماریاتی معنویت رکھتے ہیں؛ حد مقرر کر کے زیادہ اعتماد والے فیصلے خودکار طور پر منظور اور کم اعتماد والے فیصلے انسانی جائزے کے لیے بھیجے جا سکتے ہیں۔
بلٹ اِن ورک فلو پری سیٹس: ماڈل روٹنگ، پرامپٹ انجیکشن سے تحفظ، مواد کی حفاظتی جانچ اور ٹکٹ ٹرائیج جیسے تیار شدہ سوالی ٹیمپلیٹس فراہم کرتا ہے، جو فوری استعمال کے لیے تیار ہیں۔
مقامی فائن ٹیوننگ: Kaggle notebook کے ساتھ آتا ہے، جو اپنے ڈیٹا سے ڈیٹا جنریشن، RLCD ٹریننگ، درجۂ حرارت فٹنگ اور جائزے کا مکمل فائن ٹیوننگ ورک فلو سپورٹ کرتا ہے۔

WeChat پر فالو کر کے ”开源“ کا جواب دیں اور AI اوپن سورس پروجیکٹس کے گروپ میں شامل ہوں
دو طرفہ غیر خودکار آرکیٹیکچر: ModernBERT-large (421M) یا mmBERT-base (322M) دو طرفہ انکوڈر پر مبنی؛ ان پٹ ٹوکن بیک وقت سابقہ اور لاحقہ متن دیکھ سکتے ہیں۔ inference کے دوران متن حرف بہ حرف تخلیق نہیں ہوتا، بلکہ ہر امیدوار آپشن کے لیے الگ [MASK] پوزیشن مختص کی جاتی ہے۔ ایک فارورڈ پاس تمام آپشنز کے logits نکالتا ہے، جنہیں Softmax کے ذریعے احتمالی تقسیم میں معمول پر لایا جاتا ہے، اور یہی 33ms درجے کی تاخیر کا سبب ہے۔
RLCD تقویتی سیکھنے کی ٹریننگ: لاگ اسکور، کروی اسکور اور درجہ جاتی احتمالی اسکور جیسے سخت حقیقی اسکورنگ اصولوں کو انعام کے طور پر استعمال کیا جاتا ہے۔ ماڈل کو صرف حقیقی posterior احتمال فراہم کرنے پر زیادہ اسکور ملتا ہے؛ غیر یقینی صورت میں اعتماد قدرتی طور پر کم ہو جاتا ہے، جس سے روایتی بڑے ماڈلز کے ”اندھے اعتماد“ کا مسئلہ ختم ہوتا ہے۔
زبان روٹنگ کا طریقہ: Router، forward سے پہلے، خالص Python کے ذریعے Unicode کریکٹر سیٹ اور زبان کا پتا لگا کر checkpoint منتخب کرتا ہے؛ کیونکہ غیر لاطینی رسم الخط پر انگریزی checkpoint ‏0.95 اعتماد کے ساتھ 0 درستگی والا جواب دے سکتا ہے، اس لیے اعتماد خود پیشگی انتباہ نہیں دے سکتا اور روٹنگ کا فیصلہ inference سے پہلے مکمل ہونا ضروری ہے۔
احتمال کی کیلیبریشن: فراہم کردہ checkpoint میں حد سے زیادہ اعتماد موجود ہوتا ہے، اس لیے سوال کی قسم اور آپشنز کی تعداد کے مطابق اپنے ڈیٹا پر درجۂ حرارت فٹ کرنا ضروری ہے۔ فٹنگ کے بعد اوسط ECE ‏0.466 سے کم ہو کر 0.081 تک آ سکتا ہے، جس کے بعد احتمالات کو براہِ راست خودکار منظوری کے فیصلوں میں استعمال کیا جا سکتا ہے۔

انسٹالیشن: pip install laya، PyPI پیکیج؛ دو دن میں 0.1.0 سے 0.3.4 تک اپ ڈیٹ ہوا، اس لیے API میں مسلسل تبدیلیوں کا خیال رکھیں۔
ماڈل لوڈ کریں: Router(preload=True) تینوں checkpoint پہلے سے لوڈ کرتا ہے، تاکہ cold start کے دوران ہر بار زبان تبدیل کرنے پر ماڈل دوبارہ نہ بنایا جائے۔
اسٹیٹ تیار کریں: تجزیہ کیے جانے والے متن کو dict میں جمع کریں، جیسے {"from": ..., "subject": ..., "body": ...}؛ کسی بھی زبان یا JSON ساخت کو سپورٹ کرتا ہے۔
سوالات متعین کریں: JSON کے ذریعے ٹائپ شدہ سوالات کا مجموعہ لکھیں اور type (choice / score / noul)، instructions اور criteria (آپشنز یا پیمانہ) متعین کریں۔
پیش گوئی چلائیں: router.predict(state, questions) کو کال کریں؛ ایک فارورڈ پاس میں تمام جوابات واپس ملتے ہیں۔ انگریزی laya استعمال کرتی ہے، جبکہ Hindi وغیرہ خودکار طور پر multilingual پر جاتی ہیں۔
نتائج پڑھیں: res["answers"] سے choice لیبل، score ویلیو یا noul احتمال حاصل کریں؛ res["routing"] وضاحت کرتا ہے کہ یہ checkpoint کیوں منتخب کیا گیا۔
اعتماد کی بنیاد پر گیٹنگ: confidence کے لیے حد مقرر کریں، مثلاً 0.85؛ زیادہ اعتماد والے معاملات خودکار طور پر پروسیس کریں اور کم اعتماد والے انسانی جائزے کے لیے بھیجیں، لیکن پہلے اپنے ڈیٹا پر درجۂ حرارت فٹنگ کرنا ضروری ہے۔

انتہائی تیز inference: ایک فارورڈ پاس تقریباً 33ms (T4) لیتا ہے، جبکہ بیچ میں یہ 7.2ms فی سوال تک کم ہو سکتا ہے؛ بند ماڈل TypeSafe Jev سے تقریباً 7.8 گنا تیز ہے۔
幻觉 کا خطرہ صفر: متن تخلیق نہیں کرتا، صرف ساختی فیصلے فراہم کرتا ہے؛ parsing کا بوجھ نہیں ہوتا اور مواد گھڑنے کا مسئلہ بھی موجود نہیں رہتا۔
کیلیبریٹ کیے جا سکنے والے احتمالات: RLCD کے سخت حقیقی اسکورنگ اصولوں سے تربیت یافتہ اعتماد شماریاتی معنویت رکھتا ہے اور خودکار منظوری یا انسانی جائزے کے ورک فلو کو براہِ راست چلا سکتا ہے۔
کیلیبریشن کی بہتر درستگی: درجۂ حرارت فٹنگ کے بعد ECE صرف 0.081 رہتا ہے، جو Jev کے 0.246 سے بہتر ہے؛ typed-decisions کی درستگی 0.766 بھی Jev کی 0.727 سے زیادہ ہے۔
کثیر لسانی روٹنگ: بلٹ اِن Router ایک ملی سیکنڈ سے کم وقت میں 100+ زبانوں کو شناخت کر کے خودکار طور پر checkpoint منتخب کرتا ہے، جس سے غیر لاطینی رسم الخط پر انگریزی ماڈل کے ”اعتماد کے ساتھ غلط جواب“ سے بچا جا سکتا ہے۔
مکمل اوپن سورس اور صفر لاگت: Apache-2.0 لائسنس، کھلے weights اور خود میزبانی کی سہولت؛ Jev کی $0.042 فی ملین token API لاگت کے مقابلے میں طویل مدتی استعمال کی لاگت صفر ہے۔
ٹائپ شدہ آؤٹ پٹ: choice / score / noul کے تین بنیادی عناصر درجہ بندی، اسکورنگ اور ہاں یا نہیں کے فیصلوں سمیت زیادہ تر ساختی فیصلہ سازی کے منظرناموں کو کور کرتے ہیں۔

GitHub ریپوزٹری: https://github.com/NandhaKishorM/laya
HuggingFace ماڈل ریپوزٹری: https://huggingface.co/convaiinnovations/laya

کسٹمر سروس ٹکٹوں کی خودکار ٹرائیج: محکمہ (billing/technical/sales)، ترجیح، صارف کی مایوسی اور churn risk کا تعین؛ زیادہ اعتماد والے ٹکٹ خودکار طور پر تفویض اور کم اعتماد والے انسانی جائزے کے لیے بھیجے جاتے ہیں۔
مواد کی حفاظت اور جائزہ: زہریلے، ہراساں کرنے والے اور دھمکی آمیز مواد کی شناخت؛ noul بنیادی عنصر خلاف ورزی کا احتمال فراہم کرتا ہے، اس لیے کمیونٹی اور UGC پلیٹ فارمز کے ریئل ٹائم جائزے کے لیے موزوں ہے۔
پرامپٹ انجیکشن سے تحفظ (Guardrails): Agent سسٹم کے داخلی مقام پر jailbreak، injection اور key leakage جیسے حملوں کا پتا لگاتا ہے؛ 33ms درجے کی تاخیر کے باعث اسے ہر درخواست کے سلسلے میں شامل کیا جا سکتا ہے۔
ذہین ماڈل روٹنگ: مخلوط بڑے ماڈل آرکیٹیکچر میں فیصلہ کرتا ہے کہ درخواست چھوٹے ماڈل کو بھیجی جائے یا جدید ترین ماڈل کو؛ انتہائی کم لاگت پر یہ تقسیم کاری کا فیصلہ مکمل کر کے inference اخراجات کم کرتا ہے۔