Startlux-Decision خدام

StartLux-Decision هي عائلة ديال نماذج القرار من تطوير StartLux Labs، فيها خمسة نماذج كثيفة من 0.8B حتى لـ27B، ونموذج خبراء مختلط 35B-A3B. StartLux-Decision كتستقبل الحالة فشكل نص أو JSON أو صورة، وبالنسبة لأسئلة الاختيار، نعم/لا، والتنقيط، كترد فاستدلال أمامي واحد باحتمال كل اختيار، وقدر تستعمل هاد الاحتمالات كدرجة ثقة. النماذج كتدعم أصلاً سياق طويل حتى لـ256K token، بزمن استجابة فمستوى الميلي ثانية، ومتوافقة مع صيغة عميل TypeSafe ديال Jev.

القرار المهيكل: كتدعم ثلاثة أنواع ديال الأسئلة: الاختيار من متعدد، نعم/لا، والتنقيط، وكل سؤال كيرجع توزيع الاحتمالات ديال الاختيارات كاملين.
الإدخال متعدد الوسائط: الحالة تقدر تكون نص أو JSON أو صورة (تحديث 2026-10-03)، والدليل والصور يقدرو يكونو جزء من الطلب.
السياق الطويل بزاف: جميع أحجام النماذج كتدعم أصلاً طول موجهات حتى لـ262,144 token (256K)، والحالات الطويلة كتتقرا مرة وحدة على شكل أجزاء.
إخراج الثقة: الاحتمال كيستعمل مباشرة كدرجة ثقة، وهاد الشي مناسب للعمليات المؤتمتة اللي كتحتاج قياس المخاطر.
إنتاجية عالية وزمن استجابة منخفض: الأسئلة القصيرة كتحتاج غير بضعة ميلي ثواني فاستدلال أمامي واحد، مع دعم الاستدلال على دفعات (batched path) وتسريع CUDA Graphs.
النشر على جميع المنصات: كاين تكميم GGUF ‏(BF16/Q8_0/Q4_K_M) للاستعمال مع llama.cpp، وكاين backend ديال MLX على Apple Silicon.
تطبيقات الألعاب والوكلاء: تجرّبات فسيناريوهات القرار الفوري بحال التسوق عبر الويب، الشطرنج، Super Mario، StarCraft II وDoom.
التوافق مع منظومة Jev: الطلبات والردود كتعتمد صيغة TypeSafe /v1/systemone، والعملا اللي تكتبو لـJev يقدرو يندمجو بلا تعقيد.

تابعونا فـWeChat وردّو بكلمة «开源» باش تنضمو لمجموعة مشاريع الذكاء الاصطناعي مفتوحة المصدر
قراية الجواب فاستدلال أمامي واحد: النموذج كيرندر الاختيارات على شكل علامات حروف، وكيقرا احتمال الجواب مباشرة من موضع حرف الاختيار بعد forward pass، وجميع الأسئلة فالطلب كتتكمل بالتوازي فاستدلال أمامي واحد.
بنية الانتباه الخطي: كتستعمل نوى سريعة ديال flash-linear-attention وcausal-conv1d، باش يكون زمن استجابة الطلبات القصيرة منخفض بزاف، والسيرفر كيرفض يبدا على GPU ما فيهاش هاد النوى لضمان الأداء.
ضرب المصفوفات المجمّع فـMoE: نموذج الخبراء المختلط 35B-A3B كيفعّل غير تقريباً 3B من المعلمات لكل token، والخبراء كيتشغلو باستعمال grouped matmul وكتغطيهم CUDA Graphs، وزمن الاستجابة تقريباً نص ديال نموذج 27B الكثيف.
تقسيم وتفريع الإدخال الطويل: الحالة اللي طولها 256K كتتقرا مرة وحدة على شكل أجزاء، وكل سؤال فالطلب كيتحسب من فرع ديال تمثيلو، بلا إعادة الترميز.
تكميم محافظ على الاحتمالات: BF16 وQ8_0 فـGGUF كيعطيو قرار مطابق تماماً للأوزان الأصلية فـ99–100% من مشاريع JevBench، وهاد الشي كيبين أن القدرة على اتخاذ القرار مقاومة بزاف للتكميم.

تحميل الأوزان: حمّلها من Hugging Face باستعمال hf download startlux-models/StartLux-Decision-4B --local-dir StartLux-Decision-4B.
تثبيت الاعتماديات: دخل لمجلد النموذج ونفّذ pip install -r requirements.txt.
التحقق من النوى: شغّل python -m startlux_decision.check StartLux-Decision-4B، وخصو يخرج “fast kernels: active”.
تشغيل الخدمة: نفّذ python -m startlux_decision.server --model StartLux-Decision-4B --port 8090 باش تشغّل خدمة الاستدلال المحلية.
إرسال الطلب: صيفط JSON لـlocalhost:8090/v1/systemone، فيه state وquestions من نوع choice / noul / score.
الحصول على النتيجة: الرد كيرجع توزيع الاحتمالات ديال اختيارات كل سؤال، وقدر تستعملو مباشرة كدرجة ثقة فالقرار.
طريقة GGUF (اختيارية): من بعد ما تحمّل مستودع GGUF المناسب، شغّل llama-server أولاً، ومن بعد python -m startlux_decision.gguf_server باش توفّر خدمة القرار قدّام llama.cpp.

القرار بالاحتمالات: كل سؤال كيرجع مباشرة احتمال كل اختيار، والثقة كتكون جاهزة بطبيعتها بلا معايرة إضافية.
زمن استجابة سريع بزاف: الجواب كيخرج فاستدلال أمامي واحد؛ نموذج 4B كياخذ غير 26ms، و35B-A3B غير 52.5ms.
تفوق شامل فالمعايير: وصل Decision Index 0.2.1 لـ63.88، وتجاوز Jev 1.13 وجميع النماذج المنافسة العلنية.
سياق طويل بزاف: السلسلة كاملة كتدعم أصلاً إدخال 256K token، والوثائق الطويلة كتتقرا مرة وحدة.
دليل متعدد الوسائط: جميع الأحجام تقدر تقرا الصور وتستعملها كأساس للقرار.
تفوق شامل فكل فئة: من 0.8B حتى لـ35B، كل فئة أحسن من النماذج المنافسة القريبة فالحجم.
التوافق مع منظومة Jev: كتستعمل صيغة TypeSafe /v1/systemone، والعملا اللي تكتبو لـJev كيندمجو بلا حتى تعديل.

مستودع GitHub: https://github.com/StartLuxLabs/Startlux-Decision
مستودع النموذج فـHugging Face: https://huggingface.co/collections/startlux-models/startlux-decision-6abba92b301b573fa154d493

توزيع تذاكر خدمة الزبناء: دخل نص التذكرة ولا صورتها، وخلي طلب واحد يحدد الفريق المسؤول، واش خاص الاستعجال ودرجة الخطورة؛ واحتمال كل اختيار هو درجة الثقة.
أتمتة تشغيل الحاسوب: كتسوق متصفح حقيقي خطوة بخطوة لاختيار العناصر وكتحكم واش المهمة سالات، وتعرضات بنجاح أتمتة طلبات الشراء من الويب.
قرارات الذكاء الاصطناعي فالألعاب: فاستدلال أمامي واحد كتخرج احتمالات الحركات والبناء وإطلاق النار وغيرها، وتجرّبات فالشطرنج وStarCraft II وDoom وألعاب أخرى.
المخاطر المالية والامتثال: كتغطي فحص بنود العقود، والتعرف على الكيانات المالية، وتمييز رسائل التصيد، وقدر تستعمل درجة الثقة مباشرة فمسار تدبير المخاطر.
البحث والتصنيف فالمؤسسات: كتنجز التعرف على النية، وتصنيف الاستعلامات، والتحقق من وقائع RAG فزمن استجابة فمستوى الميلي ثانية، وهاد الشي مناسب للعمليات اللي فيها تزامن مرتفع.