Startlux-Decision آپریشن میں

StartLux-Decision، StartLux Labs کی جانب سے پیش کردہ فیصلہ سازی کے ماڈلز کا خاندان ہے، جس میں 0.8B سے 27B تک کے پانچ ڈینس ماڈلز اور 35B-A3B مکسڈ ایکسپرٹ ماڈل شامل ہیں۔ StartLux-Decision متن، JSON یا تصویر کی شکل میں حالت وصول کرتا ہے اور انتخاب، ہاں یا ناں، اسکورنگ جیسے سوالات کے لیے ایک ہی فارورڈ اِنفرنس میں ہر آپشن کا امکان واپس کرتا ہے، جسے اعتماد کی سطح کے طور پر استعمال کیا جا سکتا ہے۔ ماڈل مقامی طور پر 256K ٹوکن کی طویل سیاقی لمبائی، ملی سیکنڈ سطح کی تاخیر کو سپورٹ کرتا ہے اور Jev کے TypeSafe کلائنٹ فارمیٹ کے ساتھ مطابقت رکھتا ہے۔

ٹائپ شدہ فیصلہ سازی: انتخابی، ہاں یا ناں، اور اسکورنگ سوالات کی تین اقسام کو سپورٹ کرتا ہے، اور ہر سوال کے لیے تمام آپشنز کی احتمالی تقسیم واپس کرتا ہے۔
ملٹی موڈل ان پٹ: حالت متن، JSON یا تصویر ہو سکتی ہے (2026-10-03 کو اپ ڈیٹ کیا گیا)، جبکہ شواہد اور تصاویر درخواست کا حصہ بن سکتے ہیں۔
انتہائی طویل سیاق: تمام سائز کے ماڈلز مقامی طور پر 262,144 ٹوکن (256K) کی پرامپٹ لمبائی سپورٹ کرتے ہیں، اور طویل حالت کو ایک ہی بار حصوں میں پڑھا جاتا ہے۔
اعتماد کی سطح کا اخراج: امکان کو براہِ راست اعتماد کی سطح کے طور پر استعمال کیا جا سکتا ہے، جو خطرے کی مقدار بندی والے خودکار ورک فلو کے لیے موزوں ہے۔
زیادہ تھروپٹ، کم تاخیر: مختصر سوالات کا ایک فارورڈ صرف چند ملی سیکنڈ لیتا ہے، جبکہ بیچڈ پاتھ اور CUDA Graphs ایکسیلیریشن بھی سپورٹ ہوتے ہیں۔
تمام پلیٹ فارمز پر تعیناتی: llama.cpp کے لیے GGUF کوانٹائزیشن (BF16/Q8_0/Q4_K_M) فراہم کی گئی ہے، جبکہ Apple Silicon پر MLX بیک اینڈ دستیاب ہے۔
گیمز اور ایجنٹ ایپلی کیشنز: ویب شاپنگ، شطرنج، سپر ماریو، StarCraft II، Doom اور دیگر حقیقی وقت کی فیصلہ سازی کی صورتِ حال میں تصدیق شدہ۔
Jev ایکو سسٹم کے ساتھ مطابقت: درخواست اور جواب TypeSafe /v1/systemone فارمیٹ استعمال کرتے ہیں، اس لیے Jev کے لیے لکھے گئے کلائنٹس بغیر رکاوٹ جڑ سکتے ہیں۔

WeChat پر فالو کریں اور “开源” کا جواب بھیج کر AI اوپن سورس پروجیکٹس کے گروپ میں شامل ہوں
ایک ہی فارورڈ میں جواب پڑھنا: ماڈل آپشنز کو حروفی نشانات میں رینڈر کرتا ہے، اور فارورڈ پاس کے بعد آپشن کے حرف کی پوزیشن سے براہِ راست امکان پڑھتا ہے؛ ایک درخواست کے تمام سوالات ایک ہی فارورڈ میں متوازی طور پر مکمل ہو جاتے ہیں۔
لینیئر اٹینشن آرکیٹیکچر: flash-linear-attention اور causal-conv1d کے تیز رفتار کرنل استعمال کیے جاتے ہیں، جس سے مختصر درخواستوں کی تاخیر انتہائی کم رہتی ہے؛ کارکردگی یقینی بنانے کے لیے سرور ایسے GPU پر شروع ہونے سے انکار کرتا ہے جہاں یہ کرنل موجود نہ ہوں۔
MoE گروپڈ میٹرکس ضرب: 35B-A3B مکسڈ ایکسپرٹ ماڈل ہر ٹوکن کے لیے صرف تقریباً 3B پیرامیٹرز فعال کرتا ہے۔ ایکسپرٹس grouped matmul کے ذریعے چلتے ہیں اور CUDA Graphs سے کور ہوتے ہیں، اس لیے تاخیر 27B ڈینس ماڈل کے تقریباً نصف کے برابر ہے۔
طویل ان پٹ کی تقسیم اور شاخیں: 256K طویل حالت کو ایک بار حصوں میں پڑھا جاتا ہے، جبکہ درخواست میں ہر سوال کی نمائندگی سے اس کی اپنی شاخ کا حساب کیا جاتا ہے تاکہ بار بار انکوڈنگ سے بچا جا سکے۔
امکانات کی درست کوانٹائزیشن: GGUF کا BF16 اور Q8_0، JevBench کے 99–100% پروجیکٹس میں اصل وزن کے عین مطابق فیصلے فراہم کرتا ہے، جس سے ظاہر ہوتا ہے کہ فیصلہ سازی کی صلاحیت کوانٹائزیشن کے لیے انتہائی مضبوط ہے۔

وزن ڈاؤن لوڈ کریں: Hugging Face سے hf download startlux-models/StartLux-Decision-4B --local-dir StartLux-Decision-4B کے ذریعے ڈاؤن لوڈ کریں۔
انحصارات انسٹال کریں: ماڈل ڈائریکٹری میں جا کر pip install -r requirements.txt چلائیں۔
کرنل کی تصدیق کریں: python -m startlux_decision.check StartLux-Decision-4B چلائیں؛ آؤٹ پٹ میں لازماً “fast kernels: active” ہونا چاہیے۔
سروس شروع کریں: مقامی اِنفرنس سروس شروع کرنے کے لیے python -m startlux_decision.server --model StartLux-Decision-4B --port 8090 چلائیں۔
درخواست بھیجیں: localhost:8090/v1/systemone پر JSON بھیجیں، جس میں state اور questions (choice / noul / score اقسام) شامل ہوں۔
نتائج حاصل کریں: جواب میں ہر سوال کے تمام آپشنز کی احتمالی تقسیم واپس آتی ہے، جسے براہِ راست فیصلہ سازی کے اعتماد کی سطح کے طور پر استعمال کیا جا سکتا ہے۔
GGUF طریقہ (اختیاری): متعلقہ GGUF ریپوزٹری ڈاؤن لوڈ کرنے کے بعد پہلے llama-server شروع کریں، پھر llama.cpp کے سامنے فیصلہ سازی کی سروس فراہم کرنے کے لیے python -m startlux_decision.gguf_server چلائیں۔

احتمالی فیصلہ سازی: ہر سوال کے لیے تمام آپشنز کے امکانات براہِ راست واپس کیے جاتے ہیں، اس لیے اعتماد کی سطح قدرتی طور پر دستیاب ہوتی ہے اور اضافی کیلیبریشن کی ضرورت نہیں رہتی۔
انتہائی کم تاخیر: ایک ہی فارورڈ میں جواب حاصل ہوتا ہے؛ 4B ماڈل صرف 26ms اور 35B-A3B صرف 52.5ms لیتا ہے۔
بینچ مارکس میں جامع برتری: Decision Index 0.2.1 پر اسکور 63.88 حاصل کرتا ہے، جو Jev 1.13 سمیت تمام عوامی حریفوں سے بہتر ہے۔
انتہائی طویل سیاق: پوری سیریز مقامی طور پر 256K ٹوکن ان پٹ سپورٹ کرتی ہے، اس لیے طویل دستاویز صرف ایک بار پڑھی جاتی ہے۔
ملٹی موڈل شواہد: تمام سائز کے ماڈلز تصاویر کو فیصلہ سازی کی بنیاد کے طور پر پڑھ سکتے ہیں۔
ہم سائز ماڈلز پر جامع برتری: 0.8B سے 35B تک ہر درجے پر ملتے جلتے حجم کے مسابقتی ماڈلز سے بہتر ہے۔
Jev ایکو سسٹم کے ساتھ مطابقت: TypeSafe /v1/systemone فارمیٹ استعمال کرتا ہے، اس لیے Jev کے لیے لکھے گئے کلائنٹس میں کسی تبدیلی کے بغیر مربوط ہو جاتے ہیں۔

GitHub ریپوزٹری：https://github.com/StartLuxLabs/Startlux-Decision
HuggingFace ماڈل ریپوزٹری：https://huggingface.co/collections/startlux-models/startlux-decision-6abba92b301b573fa154d493

ذہین کسٹمر سروس ٹکٹ تقسیم: ٹکٹ کا متن یا تصویر ان پٹ دے کر ایک ہی درخواست میں پروسیسنگ ٹیم، ترجیحی کارروائی اور شدت کا تعین کریں؛ آپشنز کے امکانات ہی اعتماد کی سطح ہوتے ہیں۔
کمپیوٹر آپریشنز کی خودکاری: حقیقی براؤزر کو چلا کر مرحلہ وار کنٹرولز منتخب کرتا ہے اور کام مکمل ہونے کا فیصلہ کرتا ہے؛ ویب پر آرڈر دے کر خریداری مکمل کرنے کا خودکار مظاہرہ کیا جا چکا ہے۔
گیم AI فیصلہ سازی: ایک ہی فارورڈ میں چال، تعمیر، فائرنگ اور دیگر ایکشنز کے امکانات واپس کرتا ہے؛ شطرنج، StarCraft II، Doom اور دیگر گیمز میں اس کی تصدیق ہو چکی ہے۔
مالیاتی خطرے کا انتظام اور تعمیل: معاہدے کی شقوں کی جانچ، مالیاتی اداروں کی شناخت اور فشنگ ای میلز کی چھان بین کو سپورٹ کرتا ہے؛ اعتماد کی سطح کو براہِ راست رسک کنٹرول کے ورک فلو میں استعمال کیا جا سکتا ہے۔
کاروباری تلاش اور درجہ بندی: ملی سیکنڈ سطح کی تاخیر میں نیت کی شناخت، استفسار کی درجہ بندی اور RAG حقائق کی جانچ مکمل کرتا ہے، جو زیادہ ہم وقتی کاروباری منظرناموں کے لیے موزوں ہے۔