Startlux-Decision Faoliyat yuritmoqda

StartLux-Decision — StartLux Labs tomonidan ishlab chiqilgan qaror qabul qilish modellari oilasi bo‘lib, 0.8B dan 27B gacha bo‘lgan beshta zich model va 35B-A3B aralash ekspertlar modelini o‘z ichiga oladi. StartLux-Decision matn, JSON yoki rasm ko‘rinishidagi holatni qabul qiladi va tanlash, ha-yo‘q hamda baholash kabi savollar uchun har bir variant ehtimolini bitta oldinga yo‘nalgan inferensiyada qaytaradi; bu ehtimollardan ishonchlilik darajasi sifatida foydalanish mumkin. Model tabiiy ravishda 256K tokenli uzun kontekstni qo‘llab-quvvatlaydi, millisekund darajasidagi kechikishga ega va Jev’ning TypeSafe mijoz formati bilan mos keladi.

Tiplangan qarorlar: tanlash, ha-yo‘q va baholash savollarini qo‘llab-quvvatlaydi, har bir savol uchun variantlar ehtimollari taqsimotini qaytaradi.
Multimodal kiritish: holat matn, JSON yoki rasm bo‘lishi mumkin (2026-10-03 yangilanishi); dalillar va rasmlar so‘rovning bir qismi sifatida yuboriladi.
Juda uzun kontekst: barcha o‘lchamdagi modellar tabiiy ravishda 262,144 token (256K) prompt uzunligini qo‘llab-quvvatlaydi, uzun holat bir marta bo‘lib o‘qiladi.
Ishonchlilik chiqishi: ehtimollardan bevosita ishonchlilik darajasi sifatida foydalaniladi, bu xavfni miqdoriy baholash talab qilinadigan avtomatlashtirilgan jarayonlar uchun mos.
Yuqori o‘tkazuvchanlik va past kechikish: qisqa savollarda bitta oldinga yo‘nalgan inferensiya atigi bir necha millisekund davom etadi, paketli inferensiya (batched path) va CUDA Graphs tezlashtirishini qo‘llab-quvvatlaydi.
Barcha platformalarda joylashtirish: llama.cpp uchun GGUF kvantlash (BF16/Q8_0/Q4_K_M) taqdim etiladi, Apple Silicon’da MLX backendidan foydalanish mumkin.
O‘yinlar va agentlar uchun ilovalar: veb-xaridlar, shaxmat, Super Mario, StarCraft II, Doom va boshqa real vaqtli qaror qabul qilish stsenariylarida sinovdan o‘tgan.
Jev ekotizimi bilan moslik: so‘rov va javoblar TypeSafe /v1/systemone formatidan foydalanadi, Jev uchun yozilgan mijozlar muammosiz ulanadi.

WeChat’da kuzatib, “开源” deb javob yuboring va AI ochiq kodli loyihalar guruhiga qo‘shiling
Javobni bitta oldinga yo‘nalishda o‘qish: model variantlarni harf belgilariga aylantiradi, javob ehtimolini forward pass’dan keyin variant harfi joylashuvidan bevosita o‘qiydi; bitta so‘rovdagi barcha savollar bitta oldinga yo‘nalishda parallel bajariladi.
Chiziqli attention arxitekturasi: flash-linear-attention va causal-conv1d tezkor yadrolaridan foydalanadi, qisqa so‘rovlarda kechikish juda past bo‘ladi; server unumdorlikni kafolatlash uchun ushbu yadrolarsiz GPU’larda ishga tushishni rad etadi.
MoE guruhlangan matritsa ko‘paytmasi: 35B-A3B aralash ekspertlar modelida har bir token uchun taxminan 3B parametr faollashadi, ekspertlar grouped matmul orqali ishlaydi va CUDA Graphs bilan qamrab olinadi; kechikish 27B zich modelnikining taxminan yarmiga teng.
Uzun kiritishni bo‘lib o‘qish va tarmoqlash: 256K uzunlikdagi holat bir marta bo‘lib o‘qiladi, so‘rovdagi har bir savol o‘z tasviridan alohida hisoblanadi va takroriy kodlashning oldi olinadi.
Ehtimollarni aniq saqlaydigan kvantlash: GGUF’ning BF16 va Q8_0 formatlari JevBench loyihalarining 99–100% ida asl og‘irliklar bilan aynan bir xil qaror beradi; bu qaror qobiliyati kvantlashga juda chidamli ekanini ko‘rsatadi.

Og‘irliklarni yuklab olish: Hugging Face’dan hf download startlux-models/StartLux-Decision-4B --local-dir StartLux-Decision-4B buyrug‘i orqali yuklab oling.
Bog‘liqliklarni o‘rnatish: model katalogiga kirib, pip install -r requirements.txt buyrug‘ini bajaring.
Yadroni tekshirish: python -m startlux_decision.check StartLux-Decision-4B buyrug‘ini ishga tushiring; natijada “fast kernels: active” chiqishi kerak.
Serverni ishga tushirish: mahalliy inferensiya xizmatini boshlash uchun python -m startlux_decision.server --model StartLux-Decision-4B --port 8090 buyrug‘ini bajaring.
So‘rov yuborish: localhost:8090/v1/systemone manziliga state va questions (choice / noul / score turlari) ni o‘z ichiga olgan JSON yuboring.
Natijani olish: javob har bir savol uchun variantlar ehtimollari taqsimotini qaytaradi; undan bevosita qaror ishonchliligi sifatida foydalanish mumkin.
GGUF usuli (ixtiyoriy): tegishli GGUF omborini yuklab olgach, avval llama-server’ni ishga tushiring, so‘ng llama.cpp oldida qaror xizmatini taqdim etish uchun python -m startlux_decision.gguf_server buyrug‘ini bajaring.

Ehtimollarga asoslangan qarorlar: har bir savol uchun variantlar ehtimoli bevosita qaytariladi, ishonchlilik tabiiy ravishda mavjud va qo‘shimcha kalibrlash talab qilinmaydi.
Juda past kechikish: javob bitta oldinga yo‘nalishda olinadi, 4B modelida atigi 26ms, 35B-A3B modelida esa 52.5ms.
Mezonlarda to‘liq ustunlik: Decision Index 0.2.1 ko‘rsatkichi 63.88 ga yetib, Jev 1.13 va boshqa barcha ochiq raqiblardan o‘zib ketadi.
Juda uzun kontekst: butun turkum tabiiy ravishda 256K tokenli kiritishni qo‘llab-quvvatlaydi, uzun hujjat bir marta o‘qiladi.
Multimodal dalillar: barcha o‘lchamlar qaror qabul qilish asosi sifatida rasmlarni o‘qiy oladi.
O‘z toifasida to‘liq ustunlik: 0.8B dan 35B gacha bo‘lgan har bir darajada yaqin o‘lchamdagi raqobatchi modellardan ustun.
Jev ekotizimi bilan moslik: TypeSafe /v1/systemone formatidan foydalanadi, Jev uchun yozilgan mijozlar hech qanday o‘zgartirishsiz ulanadi.

GitHub ombori：https://github.com/StartLuxLabs/Startlux-Decision
HuggingFace model ombori：https://huggingface.co/collections/startlux-models/startlux-decision-6abba92b301b573fa154d493

Intellektual mijozlarga xizmat ko‘rsatish so‘rovlarini taqsimlash: murojaat matni yoki rasmini kiritib, bitta so‘rovda qayta ishlovchi jamoani, shoshilinchlikni va jiddiylik darajasini aniqlash mumkin; variantlar ehtimoli ishonchlilik darajasini bildiradi.
Kompyuterda amallarni avtomatlashtirish: haqiqiy brauzerni boshqarib, boshqaruv elementlarini bosqichma-bosqich tanlaydi va vazifa yakunlanganini aniqlaydi; veb-saytda buyurtma berish va xaridni avtomatik bajarish namoyish etilgan.
O‘yin AI qarorlari: bitta oldinga yo‘nalishda yurish, qurish, otish va boshqa harakatlar ehtimoli chiqariladi; shaxmat, StarCraft II, Doom va boshqa o‘yinlarda sinovdan o‘tgan.
Moliya xavflarini boshqarish va muvofiqlik: shartnoma bandlarini tekshirish, moliyaviy subyektlarni aniqlash va fishing xatlarini ajratishni qamrab oladi; ishonchlilik darajasi bevosita xavflarni boshqarish jarayonlarida ishlatilishi mumkin.
Korxona qidiruvi va tasnifi: millisekund darajasidagi kechikish bilan niyatni aniqlash, so‘rovlarni tasniflash va RAG faktlarini tekshirishni bajaradi; yuqori parallel yuklamali biznes stsenariylariga mos.