SemIf Faoliyat yuritmoqda

SemIf (avval OpenJev) — ochiq kodli AI qaror modeli bo‘lib, ochiq modellar yordamida TypeSafe’ning yopiq Jev xizmatidagi semantik qaror interfeysi namunasini takrorlaydi. SemIf bir martalik oldinga uzatishda nomzod variantlarga mos logits baholarini bevosita o‘qiydi, server esa tuzilgan natijani shakllantiradi; bir nechta savol holatni baham ko‘rganda prefiksni qayta ishlatish ham mumkin, bu tezlikni qariyb bir darajaga oshiradi. SemIf RTX 3090’da ishlaydi, brauzer demosi, qatorma-qator takrorlanadigan benchmark, harorat kalibrlashi va 27B model ko‘prigini taqdim etadi.

WeChat’da kuzatib, “开源” deb javob yuboring va AI ochiq kodli loyihalar guruhiga qo‘shiling
Bevosita logit baholash: bir marta oldinga uzatishda nomzod variantlar logits qiymatlari o‘qilib, ehtimol olinadi; javob matnini generatsiya qilib, keyin tahlil qilishga qaraganda taxminan 5 baravar tez.
Umumiy holatni qayta ishlatish: bir nechta qaror bir xil kontekstni baham ko‘rsa, prefiks bir marta oldindan to‘ldiriladi, so‘ng har bir mezon ketma-ket yoki parallel baholanadi; o‘tkazuvchanlik qariyb bir darajaga oshishi mumkin.
Ishlash vaqtida aniqlanadigan qarorlar: mezon va variantlar tavsifi so‘rov bilan birga yuboriladi, nozik sozlash yoki oldindan belgilangan vazifalar talab qilinmaydi; marshrutlash, qayta urinishni aniqlash kabi kichik agent qarorlari uchun mos.
To‘liq audit qilinadi: o‘zgarmas prompt, model versiyasi, prompt xeshi, qatorma-qator chiqishlar va ma’lum xatolar repozitoriyga joylangan, aniq takrorlashni qo‘llab-quvvatlaydi.
Harorat kalibrlashi: ish yuklamasi asosida moslashtirilgan harorat masshtablashi o‘rnatilgan bo‘lib, ehtimoliy ishonchlilik va amaldagi aniqlik muvofiqligini yaxshilaydi.
Bir nechta backend: CUDA GPU, Apple Silicon (MPS/MLX), CPU va brauzer WebGPU demosini qo‘llab-quvvatlaydi.

Muhitni tayyorlash: Python 3.10+, CUDA va 4B BF16 modelini sig‘dira oladigan videokartani o‘rnating.
Loyihani o‘rnatish: virtual muhit yaratgach, pip install -e '.[test]' buyrug‘ini bajaring.
Kiritishni tayyorlash: JSONL formatidagi qaror faylini yozing; har bir qatorda id, state, question va options nomzodlar ro‘yxati bo‘lsin.
Baholashni ishga tushirish: semif-score --mode direct --model Qwen/Qwen3.5-4B --revision <fixed version> --input examples/decisions.jsonl --output results.jsonl buyrug‘i orqali har bir variant ehtimoli, bajarilish vaqti va prompt xeshini oling.
Umumiy holat rejimi: barcha qatorlardagi state aynan bir xil bo‘lsa, --mode shared rejimiga o‘ting; prefiks bir marta oldindan to‘ldirilgach, barcha mezonlar parallel baholanadi.
Kalibrlashni qo‘llash: loyiha bilan birga keladigan skript yordamida maqsadli ish yuklamasida harorat masshtabini moslang, shunda chiqish ishonchliligi amaldagi aniqlikka mos keladi.

Tez qaror qabul qilish: variant logits qiymatlarini bevosita o‘qish generatsiya va tahlil jarayonini chetlab o‘tadi; 21 ta ikkilik qaror taxminan 1 soniyada bajariladi, JSON generatsiyasidan 5.2 baravar tez.
Umumiy prefiksni qayta ishlatish: bir marta oldindan to‘ldirish, ko‘p marta tarmoqlarni baholash; umumiy holat ssenariysida o‘tkazuvchanlik 2.33 dan maksimal 20.03 qaror/soniyagacha oshadi.
Generatsiya qilinadigan tokenlar yo‘q: javob matni namunalanmaydi, bu JSON formatidagi xatolar, dekodlash sikllari va chiqishni tahlil qilishdagi nosozliklarni bartaraf etadi.
Uskuna talabi past: muzlatilgan 4B model bitta RTX 3090’da ishlaydi, shuningdek CPU, Apple Silicon va brauzer WebGPU’ni qo‘llab-quvvatlaydi.
To‘liq ochiq kodli va takrorlanadigan: barcha promptlar, model versiyalari, qatorma-qator natijalar va ma’lum xatolar repozitoriyga joylangan, har bir bandni audit qilish va tekshirish mumkin.
Ishonchlilikni kalibrlash mumkin: ish yuklamasiga mos harorat masshtablashi o‘rnatilgan bo‘lib, ehtimoliy ishonchlilikni amaldagi aniqlikka moslaydi; chiqishdan avtomatlashtirilgan qarorlarda bevosita foydalanish mumkin.

Loyiha rasmiy sayti: https://openjev.com/
GitHub repozitoriysi: https://github.com/TheoLeeCJ/SemIf-OpenJev

Mijozlarga xizmat ko‘rsatish murojaatlarini marshrutlash: mijoz muammosi tavsifi va hisob holatiga asoslanib, “akkauntni qo‘llab-quvvatlash / billingni qo‘llab-quvvatlash” kabi navbat variantlarini bevosita baholash va millisoniyalarda avtomatik taqsimlash.
Agent harakatlari xavfsizlik devori: agent yuqori xavfli amalni bajarishidan oldin nomzod amallarni ikkilik baholash; 0.700 kompozit aniqlik birinchi himoya qatlami uchun yetarli bo‘lishi mumkin.
Dalillarni qidirish va saralash: kod repozitoriylarini qidirish hamda korporativ bilimlar bazasidagi savol-javobda (0.929) an’anaviy reranker o‘rnini bosadi va bir marta oldinga uzatishda nomzod hujjatlar uchun baho beradi.
Xulosa va mantiqiy natijalarni tekshirish: NLI turidagi vazifalarda “dalil xulosani qo‘llab-quvvatlaydimi?” savolini baholaydi; kalibrlangandan so‘ng ishonchlilikni quyi oqimdagi avtomatlashtirishni boshqarish uchun bevosita ishlatish mumkin.