Asosiy kontentga o‘tish
AI qo‘llanmalari

Dot Reflex 14B yordamida agentlarni xavfsizroq tiklash sikllarini yarating

Dot Reflex 14B’ni o‘rnatish, CLI yoki HTTP xizmati orqali agent trayektoriyalarini yuborish, uning o‘nta boshqaruv amalini talqin qilish va tavsiyalarini bajarish harness’iga ulashni, shuningdek, joylashtirish va baholash cheklovlariga rioya qilishni o‘rganing.

Dot Reflex 14B yordamida xavfsizroq agent tiklash sikllarini yarating

Dot Reflex 14B nima qiladi

Dot Reflex 14B kod yozuvchi va vositalardan foydalanadigan agentlar uchun bajarilishni tiklash boshqaruvchisidir. U ishchi agentning o‘rnini bosmaydi. Aksincha, agent trayektoriyasining ixcham JSON xulosasini ko‘rib chiqadi va bajarilishning keyingi bosqichini atrofdagi harness qanday boshqarishi kerakligini tavsiya qiladi.

Boshqaruvchi GPT, Claude, Gemini, Qwen, Llama yoki boshqa model asosida ishlaydigan agentlarni nazorat qilishi mumkin, chunki u ishchi modelning ichki arxitekturasiga emas, balki me’yorlashtirilgan bajarilish hodisalariga tayanadi. Ushbu reliz Qwen3-14B-Base uchun rank-64 QLoRA adapteridir.

Dot Reflex benchmark sharhi

Dot Reflex o‘nta amaldan birini qaytaradi:

  • continue: asosli rejani davom ettirishga ruxsat berish.
  • verify: da’vo yoki xavfli faraz uchun dalil so‘rash.
  • retry_differently: darhol oldingi urinishni boshqa buyruq, parametr yoki usul bilan takrorlash.
  • replan: asosiy farazlari muvaffaqiyatsiz bo‘lgan yondashuvni almashtirish.
  • rollback: zararli o‘zgarishdan keyin ma’lum darajada to‘g‘ri holatni tiklash.
  • branch: bir nechta maqbul yondashuvni alohida muhitlarda ajratish.
  • switch_model: qobiliyat yoki provayderdagi doimiy nosozlikdan so‘ng keyingi urinishni boshqa modelga yo‘naltirish.
  • ask_human: vakolat, maxfiy ma’lumotlar, aniqlik kiritish yoki tashqi qaror zarur bo‘lganda to‘xtatib turish.
  • stop_successfully: yakunlanganlik yetarli dalillar bilan tasdiqlanganda tugatish.
  • stop_failure: xavfsiz va ruxsat etilgan tiklash imkoniyati qolmaganda to‘xtatish.

Natija ruxsat emas, balki tavsiyadir. Ruxsatlar, siyosat ijrosi, vositalarni ishga tushirish, qaytarish mexanizmlari va to‘xtatish haqidagi yakuniy qaror uchun javobgarlik hamon harness zimmasida qoladi.

Asosiy xususiyatlar

  • Freymvorkdan mustaqil kiritish: Boshqaruvchi agent freymvorki allaqachon qayd etgan bajarilish hodisalaridan tuzilgan oddiy JSON ma’lumotlarini qabul qiladi.
  • Mashina o‘qiy oladigan natija: Har bir yaroqli javobda amal, asos, ishonch qiymati, tiklash ko‘rsatmalari va tahlil holati mavjud bo‘ladi.
  • Deterministik generatsiya: Ma’lumotnoma runtime’i greedy generatsiyadan foydalanadi.
  • Xatolikda yopiq holat: Kiritish sxemasi yoki generatsiya qilingan amal yaroqsiz bo‘lsa, CLI noldan farqli holat kodi bilan chiqadi.
  • Bir nechta interfeys: Buyruq satridan bitta qarorni ishga tushiring, JSON ma’lumotlarini standart kiritish orqali uzating yoki mahalliy HTTP endpointini joylashtiring.
  • Modellararo nazorat: Ishchi agent Qwen’dan foydalanishi yoki boshqaruvchining arxitekturasi bilan bir xil bo‘lishi shart emas.

Talablar va o‘rnatish

Ma’lumotnoma 4-bit runtime’i Linux va NVIDIA GPU talab qiladi. Bir vaqtda bitta so‘rov uchun 24 GB GPU amaliy jihatdan minimal talab hisoblanadi, 40–48 GB esa qo‘shimcha zaxira beradi. Ushbu reliz GGUF, Ollama, MLX, CPU yoki birlashtirilgan vaznlar yig‘ilmalarini o‘z ichiga olmaydi.

Repozitoriyani klonlang, Python virtual muhitini yarating va runtime bog‘liqliklarini o‘rnating:

git clone https://github.com/usedotai/dot-reflex.git
cd dot-reflex
python3 -m venv .venv
source .venv/bin/activate
python3 -m pip install --upgrade pip
python3 -m pip install -r requirements.txt

GitHub repozitoriyasida runtime, testlar, misollar, hujjatlar va baholash dalolatnomalari mavjud. Taxminan 1.03 GB hajmdagi adapter Hugging Face saytida joylashtirilgan va birinchi foydalanishda avtomatik yuklab olinadi. Qwen3 bazaviy vaznlarining belgilangan versiyasi ham Hugging Face orqali yuklab olinadi va keshlanadi.

Relizni tekshirish

Linux tizimida repozitoriya ildizidan manba yuklamasini tekshiring:

sha256sum --check SHA256SUMS

macOS’da quyidagi ekvivalent buyruqdan foydalaning. E’tibor bering, macOS ma’lumotnoma GPU runtime’i uchun qo‘llab-quvvatlanadigan platformalar ro‘yxatiga kiritilmagan.

shasum -a 256 -c SHA256SUMS

Modelni yuklamasdan manba manifesti, belgilangan baza identifikatori, JSON misollari, sxema va diagramma dalolatnomalarini tekshirishingiz mumkin:

python3 scripts/validate_release.py

Agent trayektoriyasini tayyorlash

Dot Reflex xom transkript o‘rniga ixcham snapshotni kutadi. Aniq kiritish shartnomasi trajectory.schema.json faylida belgilangan. Aksariyat agent tizimlariga freymvorkka xos hodisalarni ushbu tuzilmaga moslaydigan kichik adapter kerak bo‘ladi.

Masalan, agent parolni tiklash kodini tahrirlab, testlarni ishga tushirmasdan yakunlanganini da’vo qildi, deb faraz qilaylik. Trayektoriya quyidagicha ko‘rinishi mumkin:

{
  "task_summary": "Parolni tiklash tokenini tekshirishni qo‘shish",
  "execution_history": [
    {
      "step": 1,
      "actor": "agent",
      "action": "auth/reset.py o‘zgartirildi va yakunlangan deb e’lon qilindi.",
      "result": "Patch qo‘llandi; hech qanday tekshiruv o‘tkazilmadi."
    }
  ],
  "tool_results": [
    {
      "tool": "pytest",
      "status": "not_run",
      "summary": "Testlar umuman ishga tushirilmadi."
    }
  ],
  "current_state": "Kod o‘zgartirildi, biroq uning ishlashiga dalil yo‘q.",
  "detected_failure_signals": ["false_completion_risk"]
}

Shundan so‘ng boshqaruvchi yetishmayotgan dalilni aniqlab, quyidagiga o‘xshash tuzilmaviy qarorni qaytarishi mumkin:

{
  "action": "verify",
  "rationale": "Agent test dalillarisiz yakunlanganini da’vo qildi.",
  "confidence": 0.98,
  "recovery_instructions": "Avval tokenni tiklash bo‘yicha mo‘ljallangan testlarni, so‘ng tegishli auth to‘plamini ishga tushiring.",
  "parse_valid": true
}

Faqat harness aniq qo‘llab-quvvatlay oladigan dalillarni kiriting. Yetishmayotgan, eskirgan yoki chalg‘ituvchi hodisalar noto‘g‘ri tavsiyaga olib kelishi mumkin.

Asosiy qarorni ishga tushirish

Repositoryda yakunlanish xatosi ssenariysi uchun namuna trayektoriyasi mavjud. Uni bir martalik CLI'ga yuboring:

python3 inference.py examples/trajectory_false_completion.json \
  --adapter usedot/Dot-Reflex-14B

Shuningdek, kirish yo'li sifatida - belgisidan foydalanib, trayektoriyani standart kirish orqali uzatishingiz mumkin:

python3 inference.py - --adapter usedot/Dot-Reflex-14B \
  < examples/trajectory_false_completion.json

Orkestratorda jarayonning chiqish holatini ham, qaytarilgan parse_valid maydonini ham tekshiring. Noldan farqli chiqish holati kirish sxemasi yoki yaratilgan amal yaroqsizligini bildiradi va avtomatik davom ettirishni to'xtatishi kerak.

Dot Reflex'ni mahalliy HTTP xizmati sifatida ishga tushirish

O'qitish dinamikasi

Qo'shimcha server bog'liqliklarini o'rnating va FastAPI ilovasini Uvicorn yordamida ishga tushiring:

python3 -m pip install -r requirements-server.txt
uvicorn serve:app --host 127.0.0.1 --port 8080

Xuddi shu trayektoriyani qaror qabul qilish endpoint'iga yuboring:

curl --fail-with-body \
  -H 'content-type: application/json' \
  --data @examples/trajectory_false_completion.json \
  http://127.0.0.1:8080/v1/decision

Namuna localhost'ga bog'lanadi. Xizmatni tarmoqqa chiqarishdan oldin autentifikatsiya, TLS, tezlik cheklovlari, so'rov hajmi cheklovlari va audit jurnalini qo'shing.

Kontrollerni agent sikliga integratsiya qilish

Dot Reflex'ni har bir yaratilgan token'dan keyin emas, balki mazmunli dalil bosqichlarida chaqiring. Foydali nazorat nuqtalariga muvaffaqiyatsiz vosita chaqiruvi, takroriy amal, kodni tahrirlash, test yoki build natijasi, muhitdagi o'zgarish yoki yakunlanganlik da'vosi kiradi.

trajectory = harness.snapshot_for_supervisor()
decision = reflex.predict(trajectory)

if decision["action"] == "continue":
    harness.resume()
elif decision["action"] == "verify":
    harness.require_verification(
        decision["recovery_instructions"]
    )
elif decision["action"] == "ask_human":
    harness.pause_for_user(decision["rationale"])
elif decision["action"].startswith("stop_"):
    harness.stop(decision)
else:
    harness.apply_recovery_control(decision)

Bu yondashuv mas'uliyatlarni ajratib turadi. Dot Reflex tiklanish ehtiyojini tasniflaydi, harness esa amaldagi operatsiyani bajaradi. Masalan, rollback tavsiyasi faqat harness tomonidan oldindan aniqlangan va ruxsat berilgan rollback primitivini ishga tushirishi kerak.

Kontrollerni voqealarini me'yorlashtirish orqali LangGraph, OpenAI Agents SDK, OpenHands, AutoGen, CrewAI, Google ADK yoki maxsus vosita sikliga ulash mumkin. Wrapper yoki hook ularning voqealar oqimini yozib olmasa, u Cursor, Claude Code, Codex CLI yoki Aider uchun tayyor middleware emas. Moslashtirish misollari va muvofiqlik qaydlari uchun INTEGRATION.md fayliga murojaat qiling.

Ilg'or integratsiya bo'yicha maslahatlar

Qat'iy xulosaga olib keluvchi eng kichik tekshiruvdan foydalaning

Amal verify bo'lganda, da'voni tasdiqlash yoki rad etishga qodir bo'lgan eng tor tekshiruvni tanlang. Kodlash jarayonida bu katta to'plamdan oldin maqsadli testlarni ishga tushirishni anglatishi mumkin. Natijani qayd eting va keyingi dalil bosqichida yangi trayektoriyani yuboring.

Har bir amalni aniq xaritalang

Noma'lum yoki qo'llab-quvvatlanmaydigan amallarni continue deb qabul qilmang. O'nta amalning barchasi uchun harness xatti-harakatini belgilang, yaratilgan amalni tekshiring va tahlil yoki siyosat tekshiruvlari muvaffaqiyatsiz bo'lsa, xavfsiz tarzda to'xtating.

Haqiqiy tiklanish primitivlarini taqdim eting

Tavsiyalar harness ularni bajara olsa, foydali bo'ladi. branchni qo'llab-quvvatlaydigan tizim ajratilgan worktree yoki sandboxlar yaratishi kerak. rollbackni qo'llab-quvvatlaydigan tizim qayta tiklash mumkin bo'lgan, ma'lum darajada yaxshi holatlarni saqlashi kerak. Ko'p modelli router switch_modelni amalga oshirish uchun haqiqiy marshrutlash mexanizmiga ega bo'lishi lozim.

Sezgir qarorlarda inson nazoratini saqlang

Agentda vakolat, maxfiy ma'lumotlar, aniqlik kiritish yoki tashqi qaror yetishmasa, ask_humandan foydalaning. Model chiqishining o'zi vayronkor, moliyaviy, tibbiy, huquqiy, xavfsizlikka oid yoki boshqa yuqori ta'sirli amallarga ruxsat berishiga hech qachon yo'l qo'ymang.

Ishonchlilikni mahalliy sharoitda kalibrlang

Qaytarilgan ishonchlilik qiymati xavfsizlik kafolati emas, balki yaratilgan matndir. Chegaralar yoki avtomatlashtirish siyosatlarini qo'llashdan oldin uni o'z muhitingizga xos trayektoriyalar yordamida o'lchang va qayta kalibrlang.

Dalillar va audit izlarini saqlang

Kirish trayektoriyasi, kontrollер javobi, bajarilgan tiklanish amali va undan keyingi natijani saqlang. Bu qaydlar xatolarni tekshirishni osonlashtiradi hamda kontrollер ish yuklamangizga mos kelishini baholashga yordam beradi.

Baholash chegaralarini tushuning

Dot Reflex 6,000 ta sintetik trayektoriyada o'qitilgan va 600 ta sintetik trayektoriyada tekshirilgan. E'lon qilingan Agent Recovery Bench v0 baholashida muvozanatlangan 1,000 ta alohida saqlangan sintetik trayektoriya va 200 ta alohida holatli sintetik tiklanish epizodi mavjud.

Har bir amal bo'yicha sintetik benchmark

Adapter ushbu sintetik benchmarkda 1.000 tiklanish aniqligi, 1.000 macro F1 va 1.000 simulyatsiya qilingan tiklanish natijasiga erishdi. Uning bildirilgan o'rtacha kechikishi NVIDIA H200 qurilmasida 6.13 soniyani tashkil etdi, biroq bu universal xizmat ko'rsatish ko'rsatkichi emas, balki muayyan ishga tushirish o'lchovidir.

Sintetik 100% natija universal ishonchlilikni isbotlamaydi. Benchmark SWE-bench, yakuniydan yakungacha repository muammosini hal qilish testi yoki ishlab chiqarish sinovi emas.

E’lon qilingan ma’lumotlar mustaqil mualliflikdagi yoki ishlab chiqarishdagi nosozliklarga ishonchli ko‘chirishni emas, balki benchmark taqsimotiga moslikni ko‘rsatadi. Natijalarga havola berish yoki joriy etish siyosatlarini ishlab chiqishdan oldin EVALUATION.md faylini ko‘rib chiqing.

Model va ish muhiti tafsilotlari

  • Asosiy model: Qwen/Qwen3-14B-Base.
  • Usul: BF16 hisoblash bilan 4-bit NF4 QLoRA.
  • LoRA konfiguratsiyasi: rank 64, alpha 128 va dropout 0.05.
  • Maqsadli modullar: attention va MLP proyeksiya qatlamlari.
  • Trening konteksti: 2 048 token.
  • O‘qitiladigan parametrlar: 256 901 120 ta yoki asosiy modelning 1.710 foizi.
  • Litsenziya: repozitoriy va adapter fayllari uchun Apache-2.0.

Qwen asosiy modeli alohida upstream bog‘liqlik hisoblanadi. Birlashtirilgan tizimni tarqatish yoki joriy etishdan oldin uning model kartasi va litsenziyasini ko‘rib chiqing.

Xulosa

Dot Reflex 14B agentlarni bajarish sikllariga tuzilmali tiklash qatlamini qo‘shadi. Avval GPU ish muhitini o‘rnating, mavjud hodisalarni trayektoriya sxemasiga aylantiring va CLI orqali bitta qarorni sinab ko‘ring. Shundan so‘ng HTTP xizmatini qo‘shishingiz yoki maxsus harness’da boshqaruvchini dalil nazorat nuqtalarida chaqirishingiz mumkin. Bajarish vakolatini harness’da saqlang, har bir javobni tekshiring, audit dalillarini saqlab qoling va avtomatlashtirishni yoqishdan oldin samaradorlikni o‘z ish yuklamangizda baholang.