Vakolatli xavfsizlik tadqiqotlari uchun senzurasiz LLMni qanday tanlash va joriy etish

Umumiy ko‘rinish

Senzurasiz LLM’lar hujumkor xavfsizlik uchun vakolatli red-team operatsiyalari, penetratsion testlar, himoyaviy tahlil va xavfsizlik tadqiqotlari uchun mo‘ljallangan ochiq og‘irlikdagi modellar katalogidir. Unda xavfsizlik uchun nozik sozlangan modellar, umumiy abliteratsiyalangan modellar, eski modellar, bulut provayderlari va lokal inferensiya vositalari taqqoslanadi.

Ushbu repozitoriy o‘rnatiladigan dasturiy paket emas, balki ma’lumotnoma hisoblanadi. Uning asosiy maqsadi mos modelni aniqlash, Hugging Face model kartasiga amal qilish va mos joylashtirish stekini tanlashda yordam berishdir.

Ushbu modellarni faqat o‘zingizga tegishli yoki sinash uchun aniq ruxsatingiz bor tizimlar va ma’lumotlarda ishlating. Senzurasiz model noaniq, xavfli yoki doiradan tashqari tavsiyalar berishi mumkin, shuning uchun har bir natija inson tomonidan tekshirilishi kerak.

Keltirilgan texnik xususiyatlar Hugging Face model kartalari va rasmiy nashrlardan olingan bo‘lib, to‘plam 2026-yil sentyabriga tegishli. Shu sababli apparat talablari va benchmark da’volari mustaqil takrorlangan natijalar emas, balki model kartasidagi ma’lumotlar sifatida ko‘rib chiqilishi kerak.

To‘plam qamrovi

Xavfsizlik uchun nozik sozlangan modellar

Bu modellar kiberxavfsizlik materiallari yordamida o‘qitilgan yoki moslashtirilgan. Ularning ixtisoslashuvlari penetratsion test metodologiyasi, zaifliklarni tahlil qilish, hodisalarga javob berish, xavfsizlik operatsiyalari, tahdid razvedkasi, OSINT, hisobot tayyorlash va vositalarga yo‘naltirilgan ish jarayonlarini qamrab oladi.

• DeepHat V2: 1.7 millionta hujumkor va himoyaviy xavfsizlik namunalarida o‘qitilgan, Qwen2.5-Coder asosidagi oiladir. U vositalarni chaqirishni qo‘llab-quvvatlaydi va 131K kontekst uzunligini taklif qiladi.
• BugTraceAI-CORE-Ultra: Nuclei shablonlari, proof-of-concept materiallari va pentest skriptlarini yaratish kabi vazifalar uchun mo‘ljallangan, vositalarga yo‘naltirilgan 27B model. Tavsiya etilgan konteksti 4K, Q6_K tuzilmasi esa taxminan 22–24 GB VRAM talab qiladi.
• CyberPal 2.0: CTI, zaifliklarni tahlil qilish, aniqlash, yumshatish, SOC va hodisalarga javob berish, AppSec hamda muvofiqlikka yo‘naltirilgan himoyaviy 20B model.
• Cyber-Prime 1.1: bevosita tasniflash va fikrlash rejimlariga ega ixcham 2.6B model. Unda ko‘rsatilgan CyberBench o‘rtacha natijasi 0.592 F1/aniqlikni tashkil etadi.
• Cyber-Ornith-1.5-9B: agentik kiberxavfsizlik, funksiyalarni chaqirish, vositalardan foydalanish, fikrlash va terminal avtomatlashtirishga yo‘naltirilgan GGUF model.
• Imperum-CybersecurityLLM: SOC operatsiyalari, DFIR, zararli dasturlar tahlili, bulut xavfsizligi, OT xavfsizligi, GRC va vakolatli pentestni o‘z ichiga olgan o‘ndan ortiq xavfsizlik domenlarida o‘qitilgan mixture-of-experts model.
• RavenX-CyberAgent: RATH hisobot tuzilmasidan foydalanadigan va CVSS ballari, CWE identifikatorlari hamda MITRE ATT&CK mosliklari kabi artefaktlarni yarata oladigan model.
• REDCELL-26B-A4B: tahdid subyektlarini aniqlash, indikatorlar bo‘yicha pivot qilish, geolokatsiya tahlili, manba ishonchliligi va zaifliklarni kontekstlashtirishga yo‘naltirilgan OSINT modeli.

Umumiy abliteratsiyalangan modellar

Umumiy abliteratsiyalangan modellar rad etish xatti-harakatlarini kamaytirishga qaratilgan og‘irlik darajasidagi araluvdan o‘tgan. Ayrimlari ko‘rish, funksiyalarni chaqirish yoki uzun kontekstni ham saqlab qoladi. Ular kiberxavfsizlik ma’lumotlarida chuqur o‘qitilgan bo‘lishi shart emas, shuning uchun rad etishning kamayishini domen ekspertizasi bilan adashtirmaslik kerak.

Misollar qatoriga Qwen3.8-27B-Uncensored-OrcaRouter, GLM-5.3-Flash-Uncensored-FP8, huihui-ai/Qwen3.5-27B-abliterated, Qwen2.5-Coder-32B-Instruct-abliterated va HIDra-30B-A3B kiradi. DeepSeek-V4.1-Flash yozuvi noodatiy, chunki u mustaqil checkpoint sifatida emas, mavjud mos bazaviy paketga qo‘llanadigan modulli overlay hisoblanadi.

Eski modellar

Dolphin-Llama3-8B va Wizard-Vicuna-13B-Uncensored eski yoki cheklangan joylashtirishlar uchun hanuz foydali. Biroq ularning kontekst oynalari qisqaroq, shuningdek, ularda mahalliy ko‘rish va vositalarni chaqirish imkoniyati mavjud emas.

Tanlashning asosiy mezonlari

1. Modelni vazifaga moslang

• Umumiy xavfsizlik yordami: DeepHat V2 keng hujumkor va himoyaviy korpusni qamrab oladi.
• Himoyaviy operatsiyalar: CyberPal 2.0 SOC, hodisalarga javob berish, aniqlash, yumshatish va muvofiqlikka e’tibor qaratadi.
• Agentik ish jarayonlari: Cyber-Ornith, Imperum, RavenX, DeepHat V2 va Qwen asosidagi bir nechta modellar vositalarni chaqirishni taklif qiladi.
• OSINT: REDCELL-26B-A4B atributsiya, manbalarni baholash, indikatorlar bo‘yicha pivot qilish va geolokatsiya tahliliga ixtisoslashgan.
• Ixcham tasniflash: Cyber-Prime 1.1 bevosita va fikrlash rejimlarini taqdim etadi, security-slm-unsloth-1.5b esa ro‘yxatdagi eng kichik xavfsizlik modelidir.
• Uzun hujjatlar: Qwythos-9B 1M kontekst oynasini ko‘rsatadi, Qwen asosidagi va MoE modellarining bir nechtasi esa 128K dan 262K gacha kontekstlarni taklif qiladi.
• Ko‘rish kiritmasi: Qwythos-9B, Qwen3.8-27B-Uncensored-OrcaRouter, GLM-5.3-Flash-Uncensored, DeepSeek-V4.1-Flash va Qwen3.8-Cyber-agentic ko‘rish qo‘llab-quvvatlashi bilan ko‘rsatilgan.

2. Xotira talablarini tekshiring

Kvantlash joylashtirish xarajatiga katta ta’sir ko‘rsatadi. Repozitoriy mavjud bo‘lgan hollarda taxminiy Q4_K_M talablarini ko‘rsatadi:

• Taxminan 2 GB: security-slm-unsloth-1.5b.
• Taxminan 6 GB: DeepHat V2, Dolphin3-Cyber-8B, Lily-Cybersecurity-7B, pentest-v2, VEXT Pentest-7B va Dolphin-Llama3-8B kabi 7B–8B variantlar.
• Taxminan 7 GB: Cyber-Ornith-1.5-9B va Qwythos-9B.
• Taxminan 12–16 GB: REDCELL APEX-Mini taxminan 12 GB, BugTraceAI-CORE-Apex esa taxminan 16 GB hajmda ko‘rsatilgan.
• Taxminan 18–24 GB: 27B–36B kvantlangan modellar odatda shu oraliqqa kiradi. Ular qatoriga Qwen3.8-27B, Imperum, BugTraceAI-CORE-Ultra va RavenX kiradi.
• Ma’lumotlar markazi yoki bir nechta GPU: CYBER-FROST, GLM-5.3-Flash va GLM-5.3-CYBERSECURITY ancha kattaroq konfiguratsiyalarni talab qiladi.

Bu raqamlar ko‘rsatilgan kvantlash yoki tensor turi uchun berilgan taxminiy qiymatlardir. Ishlashdagi qo‘shimcha xotira sarfi, kontekst uzunligi, KV keshi, GPU arxitekturasi va hisoblashning bir qismini CPU ga yuklash amaldagi talabni o‘zgartirishi mumkin.

3. Kontekst talablarini tekshiring

Katta reklama qilingan kontekst oynasi har doim ham eng yaxshi ish rejimi degani emas. Uzunroq kontekstlar xotira sarfini oshirishi va unumdorlikni kamaytirishi mumkin. Ayrim yozuvlarda bazaviy va nozik sozlangan modellar uchun turli cheklovlar ham ko‘rsatilgan. Masalan, Dolphin3-Cyber nozik sozlangan model uchun 2 048 tokenli, bazaviy model uchun esa 131K kontekstni ko‘rsatadi, Imperum esa 16 384 tokenli kontekstni ko‘rsatgan bo‘lsa-da, resurslari cheklangan tizimlarda 8 192 tokenni tavsiya qiladi.

4. Vositalar, ko‘rish, format va litsenziyani tasdiqlang

Agent yaratishdan oldin model vositalarni chaqirishni qo‘llab-quvvatlashini tekshiring. Shuningdek, tanlagan artefaktingiz GGUF, BF16, FP8 yoki overlay ekanini aniqlang. Nihoyat, litsenziyani ko‘rib chiqing: aksariyat yozuvlar Apache 2.0 litsenziyasidan foydalanadi, ammo to‘plamda MIT, Llama community, LFM Open, Qwen Community va boshqa litsenziyalar ham mavjud.

O‘rnatish va sozlash

A varianti: GGUF modelini lokal ishga tushirish

GGUF to‘plamda taqdim etilgan eng qulay formatdir. Uni Ollama, llama.cpp va LM Studio kabi vositalar qo‘llab-quvvatlaydi.

1. Mavjud RAM yoki VRAM hajmiga mos kvantlashga ega GGUF modelini tanlang.
2. Havoladagi Hugging Face repozitoriysini ochib, uning model kartasini o‘qing.
3. Tegishli faylni yuklab oling: masalan, xotira sarfini kamaytirish uchun Q4_K_M yig‘ilmasini yoki ko‘proq xotira mavjud bo‘lsa, yuqori sifatli kvantlashni tanlang.
4. O‘zingizga ma’qul lokal ishga tushirish muhitini o‘rnating.
5. Modelni yuklang va uning model kartasida ko‘rsatilgan prompt yoki chat shablonini qo‘llang.
6. Reklama qilingan maksimal qiymatni darhol ajratish o‘rniga, o‘rtacha kontekst sozlamasidan boshlang.

LM Studio uchun yuklab olingan GGUF faylini grafik interfeys orqali import qiling yoki toping, uni tanlang, kontekst va GPU ga yuklash parametrlarini sozlang hamda lokal chat yoki API serverini ishga tushiring.

Ollama uchun minimal model ta’rifi lokal GGUF fayliga murojaat qilishi mumkin. Yo‘l va kontekst hajmini modelingizga mos qiymatlar bilan almashtiring:

FROM /absolute/path/to/model.gguf
PARAMETER num_ctx 8192

Ushbu tarkibni Modelfile nomi bilan saqlang, so‘ng lokal modelni yarating va ishga tushiring:

ollama create security-research-model -f Modelfile
ollama run security-research-model

Bu umumiy import namunasidir. Agar Hugging Face model kartasida zarur shablon, to‘xtash ketma-ketligi, tokenizer sozlamasi yoki muayyan ishga tushirish muhiti uchun ko‘rsatma berilgan bo‘lsa, o‘sha ko‘rsatmalardan foydalaning.

B varianti: llama.cpp dan foydalanish

llama.cpp faqat CPU orqali inferensiya, CPU va GPU o‘rtasida aralash yuklash yoki lokal bajarilishni batafsil boshqarish kerak bo‘lganda mos keladi. llama.cpp ni rasmiy hujjatlariga muvofiq yig‘ing yoki o‘rnating, mos GGUF faylini yuklab oling va uni model nashriyotchisi tavsiya qilgan parametrlar bilan ishga tushiring.

Umumiy ishga tushirish namunasi:

llama-cli -m /path/to/model.gguf -c 8192 -p "Vakolatli xavfsizlik baholashi natijalarini umumlashtiring."

Bajariladigan fayl nomlari va mavjud bayroqlar relizlar orasida farq qilishi mumkin, shuning uchun ularni o‘rnatilgan llama.cpp versiyasi asosida tasdiqlang.

C varianti: yuqori o‘tkazuvchanlikka ega GPU inferensiyasidan foydalanish

vLLM PagedAttention yordamida yuqori o‘tkazuvchanlikdagi inferensiyani ta’minlaydi, SGLang esa tuzilmaviy chiqish, agentli ish jarayonlari va samarali ko‘p bosqichli qayta ishlashga urg‘u beradi. Bu steklar ma’lumotlar markazidagi GPU lar va qo‘llab-quvvatlanadigan model arxitekturalari uchun eng mosdir.

Ishga joylashtirishdan oldin vosita checkpoint arxitekturasi va aniqlik formatini qo‘llab-quvvatlashini tasdiqlang. Bu, ayniqsa, MoE, FP8, juda katta kontekst va yaqinda joriy qilingan arxitekturalar uchun muhim.

D varianti: boshqariladigan API dan foydalanish

To‘plamda OrcaRouter, Featherless AI va Together AI OpenAI bilan mos API larga ega boshqariladigan inferensiya variantlari sifatida keltirilgan. Modellarning mavjudligi o‘zgarishi mumkin, shuning uchun kerakli checkpoint joylashtirilganini tekshiring.

OpenAI bilan mos umumiy so‘rov quyidagi tuzilishga ega:

curl https://YOUR_PROVIDER_ENDPOINT/v1/chat/completions \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "YOUR_MODEL_ID",
    "messages": [
      {"role": "system", "content": "Faqat vakolatli xavfsizlik tahliliga yordam bering."},
      {"role": "user", "content": "Ushbu anonimlashtirilgan natijalarni ko‘rib chiqing va tuzatishlar ro‘yxatini tuzing."}
    ]
  }'

Provayderning haqiqiy endpointi, model identifikatori, autentifikatsiya usuli, narxlash shartlari va ma’lumotlarni saqlash nazoratlaridan foydalaning.

E varianti: GPU infratuzilmasini ijaraga olish

RunPod, Vast.ai va Lambda o‘z serveringizda bulutga joylashtirish uchun keltirilgan. RunPod Docker asosidagi podlar va shablonlarni taklif qiladi, Vast.ai GPU marketplace’ini taqdim etadi, Lambda esa talab bo‘yicha ishlab chiqarish infratuzilmasiga yo‘naltirilgan. GPU’ni model og‘irliklari, KV-kesh talablari, aniqlik darajasi va kutilayotgan bir vaqtdagi so‘rovlar soniga qarab tanlang.

Asosiy foydalanish misollari

Sanitizatsiya qilingan xavfsizlik topilmasini tahlil qilish

Tuzilgan prompt noaniqlikni kamaytiradi va natijani tekshirishni osonlashtiradi:

Rol: Ilova xavfsizligini himoya nuqtayi nazaridan ko‘rib chiquvchi mutaxassis.
Ruxsat: Bu topilma tasdiqlangan test muhitidan olingan.
Kiritish: [Sanitizatsiya qilingan topilma, ta’sirlangan komponent va kuzatilgan xatti-harakatni kiriting.]
Vazifa:
1. Muammoni umumlashtiring.
2. Dalillar qo‘llab-quvvatlasa, uni ehtimoliy CWE bilan bog‘lang.
3. Ishonchlilikni oshirib ko‘rsatmasdan ta’sirini tushuntiring.
4. Tuzatish va tekshirish bosqichlarini tavsiya qiling.
5. Taxminlar va yetishmayotgan dalillarni sanab o‘ting.
Skanerlash natijalari, ta’sirlangan xostlar yoki muvaffaqiyatli ekspluatatsiyani o‘ylab topmang.

Insidentga javob berish dalillarini ko‘rib chiqish

Siz ruxsat berilgan insidentga javob berish jamoasiga yordam beryapsiz.
Quyidagi sanitizatsiya qilingan vaqt jadvali va indikatorlarni ko‘rib chiqing.
Tasdiqlangan faktlarni gipotezalardan ajrating.
Quyidagilarni qaytaring:
- Vaqt jadvali xulosasi
- Ehtimoliy ATT&CK usullari
- Har bir bog‘lashni qo‘llab-quvvatlovchi dalillar
- Zudlik bilan cheklash bo‘yicha savollar
- Uzoq muddatli aniqlash bo‘yicha tavsiyalar
Ma’lumotlar: [Sanitizatsiya qilingan dalillarni kiriting]

Fisherlik mashqi namunasini tasniflash

Cyber-Prime 1.1 phishingni CyberBench’ning kuchli yo‘nalishlaridan biri sifatida ko‘rsatadi. Himoyaga yo‘naltirilgan tasniflash prompti quyidagicha bo‘lishi mumkin:

Ushbu ruxsat berilgan phishing-trening namunasini xavfsiz, shubhali yoki zararli deb tasniflang.
Tasnifni qo‘llab-quvvatlovchi kuzatiladigan belgilarni aniqlang.
Havolalarni ochmang va matnda mavjud bo‘lmagan faktlarni taxmin qilmang.
Namuna: [Trening namunasini kiriting]

Tuzatishga yo‘naltirilgan hisobot yaratish

RavenX kabi modellarni tuzilgan hisobot maydonlarini ishlab chiqarishga yo‘naltirish mumkin:

Faqat taqdim etilgan baholash dalillaridan foydalanib, quyidagilarni tayyorlang:
- Topilma sarlavhasi
- Texnik xulosa
- Biznesga ta’siri
- CWE bilan bog‘lash
- Asoslantirish bilan CVSS vektori
- Tegishli MITRE ATT&CK bog‘lanishi, agar qo‘llanilsa
- Tuzatish
- Qayta test qilish tartibi
Har bir noaniq maydonni tekshirilmagan deb belgilang.
Dalillar: [Ruxsat berilgan baholash qaydlarini kiriting]

Ilg‘or maslahatlar

Takrorlanadigan baholash to‘plamidan foydalaning

Modelni joriy etishdan oldin uni ruxsat berilgan ish jarayoningizdan olingan kichik ichki mezonlar to‘plamida sinang. Bilimga oid savollar, jurnallarni sharhlash, hisobot yaratish, noto‘g‘ri ijobiy natijalarni qayta ishlash, dalillarni keltirish va yetishmayotgan faktlarni o‘ylab topishdan bosh tortishni kiriting. Faqat javob berishga tayyorligini o‘lchamasdan, faktlarga muvofiqlik va vazifani bajarishni taqqoslang.

Mulohaza yuritishni bajarishdan ajrating

Vositalarni chaqirishni qo‘llab-quvvatlash cheklanmagan avtomatlashtirishni xavfsiz qilmaydi. Model takliflari va tashqi amallar o‘rtasida tasdiqlash chegarasini o‘rnating. Argumentlarni ruxsat etilgan ro‘yxat bilan tekshiring, hisob ma’lumotlarini cheklang, bajarish muhitini ajrating, har bir chaqiruvni qayd eting va tizimlarni o‘zgartiradigan yoki maxfiy ma’lumotlarga kiradigan amallar uchun inson tasdig‘ini talab qiling.

Ishlash doirasini cheklang

Tizim promptida ruxsat berilgan nishonlar, ruxsat etilgan usullar, vaqt oralig‘i, ma’lumotlar bilan ishlash qoidalari va kutilayotgan chiqish formatini ko‘rsating. Agar nishon yoki amal aniq kiritilmagan bo‘lsa, modelga to‘xtash va aniqlik so‘rashni buyuring.

Joriy faktlar uchun qidiruvdan foydalaning

Xavfsizlikka oid ma’lumotlar tez o‘zgaradi. Modelni tasdiqlangan ichki hujjatlar, joriy yetkazib beruvchi tavsiyalari va nufuzli zaiflik yozuvlari bilan asoslang. Undan qidiruv orqali olingan dalillarni oldindan o‘rgatilgan bilimlardan ajratishni va har bir muhim da’vo uchun taqdim etilgan manbani ko‘rsatishni so‘rang.

Kontekst va kvantlashni ongli ravishda sozlang

• Vazifaga bemalol yetadigan eng kichik kontekstdan boshlang.
• Xotira asosiy cheklov bo‘lsa, Q4 sinfidagi GGUF buildlardan foydalaning.
• Nozik kod yoki dalil tahlili muhim bo‘lsa, yuqoriroq kvantlashlarni sinang.
• MoE’ning faol parametrlar soni saqlash talablariga teng emasligini unutmang; barcha model og‘irliklari ham mos saqlash va xotira boshqaruvini talab qiladi.
• Promptni qayta ishlash tezligini generatsiya tezligidan alohida o‘lchang.

Maxsus joylashtirish talablariga rioya qiling

Har bir yuklab olish fayli mustaqil GGUF model bo‘lavermaydi. DeepSeek-V4.1-Flash abliteratsiya qilingan kiberxavfsizlik relizi mos mavjud bazaviy paketlar uchun overlay hisoblanadi. Katta FP8 yozuvlari muayyan ko‘p GPU’li konfiguratsiyalarni talab qilishi mumkin, CYBER-FROST to‘rtta NVIDIA B300 SXM6 GPU’da sinovdan o‘tkazilgan, GLM-5.3-CYBERSECURITY esa tensor parallelizmi bilan sakkizta H200 GPU’ni ko‘rsatadi.

Chain-of-thought bilan ehtiyotkor ishlang

Qwythos-9B doim yoqilgan <think> bloki bilan keltirilgan. Yashirin yoki ko‘rinadigan mulohaza matnini to‘g‘rilik dalili deb qabul qilmang. Yakuniy javobni manba material bilan solishtirib baholang va maxfiy kontekstni o‘z ichiga olishi mumkin bo‘lgan sezgir mulohaza izlarini saqlashdan saqlaning.

Glossariy

• Abliteratsiya: An’anaviy qayta o‘qitishsiz residual stream’dan rad etish yo‘nalishini olib tashlaydigan, og‘irliklar darajasidagi aralashuv.
• Obliteratsiya: Abliteratsiya yondashuvining unga yaqin varianti.
• SFT: Belgilangan yoki saralangan soha ma’lumotlarida nazorat ostidagi fine-tuning.
• QLoRA: Quantized Low-Rank Adaptation, xotiradan samarali foydalanadigan fine-tuning usuli.
• DPO: Direct Preference Optimization.
• MoE: Mixture of Experts; bunda har bir token uchun ekspertlarning faqat bir qismi faol bo‘ladi, garchi og‘irliklarning to‘liq to‘plami model tarkibida qolsa ham.

Xulosa

Eng yaxshi model faqat uning parametrlar soni yoki javob berishga tayyorligi bilan belgilanmaydi. Avval ruxsat etilgan foydalanish holatingizni aniqlang, so‘ng ixtisoslashuv, xotira talablari, kontekst uzunligi, vositalarni qo‘llab-quvvatlash, format va litsenziyani solishtiring. Xavfsizlikka moslashtirilgan kichik GGUF modeli ancha katta, umumiy maqsadli abliteratsiya qilingan chekpointga qaraganda amaliyroq bo‘lishi mumkin.

Dastlabki mahalliy sinovlar uchun 1.5B–9B hajmidagi GGUF variantlari qurilma talablari eng past bo‘lgan tanlovdir. Kattaroq agentik, uzun kontekstli, MoE va FP8 modellaridan foydalanishni katta xotirali ish stansiyalari, boshqariladigan inferensiya yoki ko‘p GPU’li infratuzilma bilan boshlagan ma’qul. Har qanday joylashtirishda inson nazoratini, dalillarga asoslangan tekshiruvni, qat’iy chegaralashni va bajarilishni nazorat qilish vositalarini saqlang.