Kev Faoliyat yuritmoqda

Kev — Cognition muhandislik bo‘limi vitse-prezidenti Jared Palmer tomonidan ochiq manba sifatida taqdim etilgan qaror qabul qilish modellari oilasi bo‘lib, Qwen3.5/Qwen3.8 asosida ishlaydi va 0.8B dan 27B gacha bo‘lgan turli model hajmlarini taqdim etadi. Kev matn generatsiya qilmaydi: holat matni va strukturaviy savollarni qabul qilib, bir martalik forward pass orqali kalibrlangan ehtimollarni to‘g‘ridan-to‘g‘ri chiqaradi. U ha/yo‘q, variantni yo‘naltirish va daraja bo‘yicha baholash kabi uch turdagi qarorni qo‘llab-quvvatlaydi hamda TypeSafe System One bilan API jihatdan mos keladi.

Strukturaviy qarorlar: holat matni va bir nechta strukturaviy savollar kiritilganda, bitta so‘rov orqali har bir variantning kalibrlangan ehtimoli chiqariladi, izohlovchi matn generatsiya qilinmaydi.
Uch turdagi qaror primitivlari: noul, choice va score qo‘llab-quvvatlanadi.
Ommaviy savollarni izolyatsiya qilish: bir nechta savol bir xil kirish holatini ulashadi, diqqat maskasi orqali bir-biridan ajratiladi; bitta forward pass barcha savollarga bir vaqtda javob beradi va savollar bir-biriga ta’sir qilmaydi.
Mahalliy joylashtirish: kev.serve buyrug‘i orqali xizmatni bir qatorda ishga tushirish, POST /v1/systemone endpointini taqdim etish hamda CUDA, ROCm va Apple Silicon (MLX) bilan mos ishlash imkonini beradi.
Arzon fine-tuning: rasmiy checkpoint asosida o‘zingizning belgilangan ma’lumotlaringiz bilan qo‘shimcha o‘qitish mumkin. kev-finetune skill coding agent yordamida ma’lumotlarni tayyorlash, o‘qitish, baholash va joylashtirish jarayonini avtomatlashtiradi.
O‘rnatilgan baholash tizimi: muzlatilgan baholash to‘plami aniqlik, Brier bali, kalibrlash xatosi va avtomatlashtiriladigan qarorlar ulushini hisobot qiladi; CI esa chiqarilish raqamlarini avtomatik tekshiradi.

微信关注回复“开源”，加入AI开源项目交流群
Pointer head generatsiyani klassifikatsiyaga aylantiradi: Kev Qwen bazaviy modelining og‘irliklarini muzlatadi va ustiga rank-16 LoRA adapteri hamda pointer head qo‘shadi. Har bir nomzod variantning yashirin holati savolning yashirin holati bilan baholanadi, so‘ng softmax orqali ehtimol olinadi. Mohiyatan, katta modeldagi “yozma topshiriq”ni “tanlash topshirig‘i”ga aylantirib, tokenlarni ketma-ket generatsiya qilishni chetlab o‘tadi.
Blokli sababiy diqqat savollarni izolyatsiya qiladi: kirish ketma-ketligi “holat + bir nechta savol bloki” shaklida tuziladi. Diqqat maskasi har bir tokenning faqat holat va joriy savol ichidagi tokenlarni o‘qishiga imkon beradi, pozitsiya ID esa har bir savolda qaytadan sanaladi. Shu sababli bitta forward pass bir-biriga aloqasiz bir nechta savolga bir vaqtda javob bera oladi: holat hisob-kitobi ulashiladi, ammo savollar o‘rtasida ma’lumot sizib chiqmaydi. Qwen3.5/3.8 kabi aralash Gated DeltaNet modellarida esa har bir savol alohida qatorga joylashtiriladi va holatning KV keshi qayta ishlatiladi, bu esa yanada qat’iy izolyatsiyani ta’minlaydi.
O‘qitish va kalibrlash: adapter va pointer head to‘g‘ri belgilar bo‘yicha cross-entropy yordamida o‘qitiladi, bazaviy model esa butun jarayon davomida muzlatilgan holda qoladi. Har bir checkpoint ajratib qo‘yilgan ma’lumotlar asosida temperatura parametrini moslashtiradi; inferensiya vaqtida kalibrlangan ehtimollar to‘g‘ridan-to‘g‘ri chiqariladi. Temperatura tartibni o‘zgartirmaydi, faqat ishonchlilik qiymatlarini kalibrlaydi.

Muhitni tayyorlash: Python 3.12/3.13 va uv ni o‘rnating, repozitoriyani klonlagach, bog‘liqliklarni o‘rnatish uchun uv sync --extra serve buyrug‘ini bajaring.
Mahalliy xizmatni ishga tushirish: modelni ishga tushirish uchun KEV_DTYPE=bf16 uv run --extra serve python -m kev.serve --run jaredpalmer/kev-4b --port 8009 buyrug‘ini bajaring. Birinchi ishga tushirishda og‘irliklar avtomatik yuklanadi.
Qaror so‘rovini yuborish: POST /v1/systemone endpointiga state matni va questions ni yuboring; javobda har bir variantning kalibrlangan ehtimoli qaytariladi.
Python SDK orqali chaqirish: TypeSafe rasmiy SDK yordamida base_url ni mahalliy xizmatga yo‘naltiring; mavjud Jev ilovasi kodni o‘zgartirmasdan almashtiriladi.
Brauzerda sinab ko‘rish: Hugging Face Space manziliga kiring yoki playground ni mahalliy ishga tushiring, o‘rnatish talab qilinmaydi.
O‘z ma’lumotlaringiz bilan fine-tuning: JSONL formatidagi belgilangan ma’lumotlarni tayyorlang va rasmiy checkpoint asosida o‘qitishni davom ettirish uchun uv run python -m kev.train --init_from jaredpalmer/kev-4b ... buyrug‘idan foydalaning.
Agent orqali to‘liq avtomatik fine-tuning: npx skills add jaredpalmer/kev@kev-finetune buyrug‘ini bajaring, so‘ng coding agent muammoni topish, ma’lumot yaratish, o‘qitish, baholash va joylashtirish jarayonini to‘liq bajarsin; mahalliy GPU talab qilinmaydi.
Bulutga joylashtirish: HTTPS endpointini bir buyruq bilan joylashtirish uchun pip install modal && modal deploy kev_serve.py buyrug‘ini bajaring. Faol bo‘lmaganda xizmat avtomatik ravishda nolga qisqaradi va to‘lov olinmaydi.
Baholash va tekshirish: muzlatilgan baholash to‘plamida natijani tekshirish uchun uv run python -m kev.benchmark --run <model> --suite evals/v4/transfer-v4 buyrug‘idan foydalaning; avval baholang, keyin ishga tushiring.

Juda past xarajat: bitta forward pass ehtimolni to‘g‘ridan-to‘g‘ri chiqaradi, tokenlarni ketma-ket generatsiya qilish talab qilinmaydi. H100 da 6 ta savolga atigi 18 ms da javob beradi, o‘z serveringizda esa chaqiruv to‘lovi yo‘q.
Arzon va takrorlanadigan o‘qitish: rasmiy uchta model variantini ko‘chirish uchun taxminan 95 dollar, shaxsiy fine-tuning uchun esa bir marta taxminan 1 dollar sarflanadi; to‘liq hisob-kitob ochiq va shaffof.
Ochiq va boshqariladigan: Apache-2.0 litsenziyasi asosida og‘irliklar, o‘qitish kodi va muzlatilgan baholash to‘plami to‘liq ochiq; o‘zingiz o‘qitishingiz, audit qilishingiz va ta’minotchi blokirovkasidan qochishingiz mumkin.
API orqali darhol ulash: TypeSafe System One bilan to‘liq mos keladi; mavjud Jev ilovasida base_url ni o‘zgartirish kifoya.
Bir martada bir nechta savol: kirish holati ulashiladi, blokli sababiy diqqat esa savollarni izolyatsiya qiladi; bitta forward pass istalgan miqdordagi savolga bir vaqtda javob beradi va ular bir-biriga ta’sir qilmaydi.

GitHub repozitoriyasi: https://github.com/jaredpalmer/kev

Mijozlarga xizmat ko‘rsatish ticketlarini yo‘naltirish: bitta forward pass orqali “qaysi bo‘limga yuborish, operatorga ko‘tarish kerakmi, mijozning jahldorlik darajasi qanday” degan savollarga bir vaqtda javob beradi. Ehtimol chegarasiga ko‘ra avtomatik taqsimlaydi, ishonch past bo‘lsa operatorga yuboradi.
Kontent xavfsizligini moderatsiya qilish: UGC matni uchun “noul qoidabuzarlikmi yoki yo‘qmi + choice qoidabuzarlik turi + score jiddiylik darajasi” qarorlarini parallel bajaradi va yuqori ishonchli holatlarni avtomatik ko‘rib chiqadi.
Moliya va kredit bo‘yicha dastlabki tekshiruv: murojaat turini, inson aralashuvi zarurligini va xavf darajasini aniqlaydi; ehtimollar taqsimoti muvofiqlik qaydlarini yuritish hamda qo‘lda tekshirish ustuvorligini belgilashga yordam beradi.
Elektron tijorat mahsuloti va niyatlarini tasniflash: foydalanuvchi so‘rovini qidiruv, tavsiya yoki sotuvdan keyingi xizmat kabi quyi tizimlarga yo‘naltiradi va “bitta so‘z bir nechta toifaga tegishli bo‘lishi” kabi ko‘p yorliqli taqsimot muammosini hal qiladi.