跳到主要内容
AI教程

如何为授权安全研究选择并部署无审查限制的LLM

本教程将介绍如何浏览精选的“用于攻击性安全的无审查限制LLM”合集,依据专业方向和硬件需求选择模型,在本地部署GGUF模型或使用托管推理服务,并为授权渗透测试、防御性分析、OSINT和安全报告建立安全工作流程。

如何为授权安全研究选择并部署无审查限制的LLM

概览

未经审查的网络安全大语言模型是一个精选目录,收录了面向授权红队行动、渗透测试、防御性分析和安全研究的开放权重模型。该目录比较了经过安全领域微调的模型、通用去拒答模型、旧版模型、云服务商以及本地推理工具。

该仓库是参考资料,而不是可安装的软件包。其主要用途是帮助你确定合适的模型,查阅相应的 Hugging Face 模型卡,并选择兼容的部署技术栈。

仅在你拥有或明确获准测试的系统和数据上使用这些模型。未经审查的模型可能生成不准确、不安全或超出范围的建议,因此每项输出都需要人工审核。

所列规格来自 Hugging Face 模型卡和官方发布信息,资料收集日期为 2026 年 9 月。因此,硬件估算和基准测试声明应视为模型卡数据,而不是经过独立复现的结果。

收录范围

安全领域微调模型

这些模型使用网络安全材料进行训练或适配,专长包括渗透测试方法、漏洞分析、事件响应、安全运营、威胁情报、OSINT、报告编写以及面向工具的工作流。

  • DeepHat V2:基于 Qwen2.5-Coder 系列,使用 170 万条攻防安全样本训练。支持工具调用,并提供 131K 上下文长度。
  • BugTraceAI-CORE-Ultra:面向工具使用的 27B 模型,可用于生成 Nuclei 模板、概念验证材料和渗透测试脚本等任务。建议上下文长度为 4K,其 Q6_K 构建版本需要约 22–24 GB 显存。
  • CyberPal 2.0:面向防御的 20B 模型,专注于 CTI、漏洞分析、检测、缓解、SOC 与事件响应、AppSec 以及合规。
  • Cyber-Prime 1.1:紧凑型 2.6B 模型,提供直接模式和思考模式。其公布的 CyberBench 平均成绩为 0.592 F1/准确率。
  • Cyber-Ornith-1.5-9B:基于 GGUF 的模型,专注于智能体式网络安全、函数调用、工具使用、推理和终端自动化。
  • Imperum-CybersecurityLLM:混合专家模型,在十多个安全领域上训练,包括 SOC 运营、DFIR、恶意软件分析、云安全、OT 安全、GRC 以及授权渗透测试。
  • RavenX-CyberAgent:支持工具的模型,采用 RATH 报告结构,可生成 CVSS 分数、CWE 标识符和 MITRE ATT&CK 映射等产物。
  • REDCELL-26B-A4B:面向 OSINT 的模型,用于威胁行为者归因、指标关联分析、地理位置分析、来源可信度评估和漏洞语境分析。

通用去拒答模型

通用去拒答模型经过了旨在降低拒答行为的权重级干预。有些模型还保留了视觉、函数调用或长上下文支持。它们不一定经过深入的网络安全数据训练,因此,降低拒答不应与领域专业能力混为一谈。

示例包括 Qwen3.8-27B-Uncensored-OrcaRouter、GLM-5.3-Flash-Uncensored-FP8、huihui-ai/Qwen3.5-27B-abliterated、Qwen2.5-Coder-32B-Instruct-abliterated 和 HIDra-30B-A3B。DeepSeek-V4.1-Flash 条目较为特殊,因为它是一个模块化叠加层,必须应用于现有的兼容基础包,而不能作为独立检查点使用。

旧版模型

Dolphin-Llama3-8B 和 Wizard-Vicuna-13B-Uncensored 对于旧式或资源受限的部署仍然有用。不过,它们的上下文窗口较短,也不具备原生视觉和工具调用能力。

网络安全模型基准测试对比

关键选择标准

1. 让模型匹配任务

  • 通用安全辅助:DeepHat V2 覆盖广泛的攻防语料。
  • 防御运营:CyberPal 2.0 专注于 SOC、事件响应、检测、缓解和合规。
  • 智能体式工作流:Cyber-Ornith、Imperum、RavenX、DeepHat V2 以及多个源自 Qwen 的模型都宣称支持工具调用。
  • OSINT:REDCELL-26B-A4B 专注于归因、来源评估、指标关联分析和地理位置分析。
  • 紧凑型分类:Cyber-Prime 1.1 提供直接模式和思考模式,而 security-slm-unsloth-1.5b 是列表中最小的安全模型。
  • 长文档:Qwythos-9B 标注支持 1M 上下文窗口,而多个基于 Qwen 的模型和 MoE 模型提供 128K 至 262K 上下文。
  • 视觉输入:Qwythos-9B、Qwen3.8-27B-Uncensored-OrcaRouter、GLM-5.3-Flash-Uncensored、DeepSeek-V4.1-Flash 和 Qwen3.8-Cyber-agentic 均标注支持视觉。

2. 检查内存需求

量化会显著影响部署成本。仓库在可用时列出了近似的 Q4_K_M 内存需求:

  • 约 2 GB:security-slm-unsloth-1.5b。
  • 约 6 GB:7B–8B 选项,例如 DeepHat V2、Dolphin3-Cyber-8B、Lily-Cybersecurity-7B、pentest-v2、VEXT Pentest-7B 和 Dolphin-Llama3-8B。
  • 约 7 GB:Cyber-Ornith-1.5-9B 和 Qwythos-9B。
  • 约 12–16 GB:REDCELL APEX-Mini 的标示值接近 12 GB,而 BugTraceAI-CORE-Apex 的标示值接近 16 GB。
  • 约 18–24 GB:27B–36B 量化模型通常处于此范围内,包括 Qwen3.8-27B、Imperum、BugTraceAI-CORE-Ultra 和 RavenX。
  • 数据中心或多 GPU:CYBER-FROST、GLM-5.3-Flash 和 GLM-5.3-CYBERSECURITY 需要明显更大的配置。

这些数字是针对所述量化方式或张量类型的估算值。运行时开销、上下文长度、KV 缓存、GPU 架构以及部分 CPU 卸载都可能改变实际需求。

3. 验证上下文要求

宣传中的大上下文窗口并不一定是最佳运行点。更长的上下文会增加内存使用量,并可能降低吞吐量。一些条目还区分了基础模型和微调模型的限制。例如,Dolphin3-Cyber 列出的微调上下文为 2,048 个 token,基础上下文为 131K;而 Imperum 虽然列出 16,384 个 token 的上下文,但建议资源受限的系统使用 8,192 个 token。

4. 确认工具、视觉、格式和许可证

在围绕模型构建代理之前,请确认模型是否支持工具调用。同时验证所选文件是 GGUF、BF16、FP8 还是 overlay。最后检查许可证:大多数条目使用 Apache 2.0,但该集合还包括 MIT、Llama community、LFM Open、Qwen Community 以及其他许可证。

安装与设置

选项 A:在本地运行 GGUF 模型

GGUF 是该集合中最易使用的格式。Ollama、llama.cpp 和 LM Studio 等工具都支持该格式。

  1. 选择量化方式适合现有 RAM 或 VRAM 的 GGUF 模型。
  2. 打开链接中的 Hugging Face 仓库并阅读其模型卡片。
  3. 下载合适的文件,例如在内存较少时选择 Q4_K_M 构建版本,或在内存充足时选择质量更高的量化版本。
  4. 安装首选的本地运行时。
  5. 加载模型,并应用其模型卡片指定的提示词或聊天模板。
  6. 从适中的上下文设置开始,不要立即分配宣传的最大值。

对于 LM Studio,请通过图形界面导入或定位已下载的 GGUF 文件,选中该文件,配置上下文和 GPU 卸载,然后启动本地聊天或 API 服务器。

对于 Ollama,最小模型定义可以引用本地 GGUF 文件。请将路径和上下文大小替换为适合模型的值:

FROM /absolute/path/to/model.gguf
PARAMETER num_ctx 8192

将这些内容保存为 Modelfile,然后创建并运行本地模型:

ollama create security-research-model -f Modelfile
ollama run security-research-model

这是通用的导入方式。如果 Hugging Face 模型卡片提供了必需的模板、停止序列、分词器设置或特定运行时说明,请以其指导为准。

选项 B:使用 llama.cpp

当你需要仅使用 CPU 推理、混合 CPU 和 GPU 卸载,或对本地执行进行详细控制时,llama.cpp 是合适的选择。请根据官方文档构建或安装 llama.cpp,下载兼容的 GGUF 文件,并使用模型发布者建议的参数启动。

通用调用方式如下:

llama-cli -m /path/to/model.gguf -c 8192 -p "Summarize the authorized security assessment findings."

可执行文件名称和可用标志可能因版本而异,因此请根据已安装的 llama.cpp 版本进行确认。

选项 C:使用高吞吐量 GPU 推理

vLLM 通过 PagedAttention 提供高吞吐量推理,而 SGLang 则侧重于结构化输出、代理工作流和高效的多轮处理。这些技术栈最适合数据中心 GPU 以及受支持的模型架构。

部署前,请确认引擎支持该检查点的架构和精度。对于 MoE、FP8、超大上下文以及近期推出的架构,这一点尤其重要。

选项 D:使用托管 API

该集合将 OrcaRouter、Featherless AI 和 Together AI 列为支持 OpenAI 兼容 API 的托管推理选项。模型可用性可能有所不同,因此请确认所需的确切检查点已托管。

通用的 OpenAI 兼容请求结构如下:

curl https://YOUR_PROVIDER_ENDPOINT/v1/chat/completions \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "YOUR_MODEL_ID",
    "messages": [
      {"role": "system", "content": "Assist only with authorized security analysis."},
      {"role": "user", "content": "Review these sanitized findings and produce a remediation checklist."}
    ]
  }'

请使用提供商的实际端点、模型标识符、身份验证方式、定价条款和数据保留控制。

选项 E:租用 GPU 基础设施

RunPod、Vast.ai 和 Lambda 均可用于自托管云部署。RunPod 提供基于 Docker 的 pod 和模板,Vast.ai 提供 GPU 市场,而 Lambda 面向按需生产基础设施。应根据模型权重、KV 缓存需求、精度和预期并发量选择 GPU。

基本使用示例

分析经过清理的安全发现

结构化提示词可以减少歧义,并使结果更易于验证:

角色:防御性应用安全审查员。
授权:此发现来自经批准的测试环境。
输入:[插入经过清理的发现、受影响组件和观察到的行为。]
任务:
1. 总结该问题。
2. 如果证据支持,将其映射到可能的 CWE。
3. 解释影响,但不要夸大确定性。
4. 建议修复和验证步骤。
5. 列出假设和缺失证据。
不要编造扫描结果、受影响主机或成功利用情况。

审查事件响应证据

你正在协助一支获得授权的事件响应团队。
审查以下经过清理的时间线和指标。
将已确认事实与假设分开。
返回:
- 时间线摘要
- 潜在的 ATT&CK 技术
- 支持每项映射的证据
- 需要立即采取遏制措施的问题
- 长期检测建议
数据:[插入经过清理的证据]

分类钓鱼测试样本

Cyber-Prime 1.1 报告称,钓鱼是其 CyberBench 表现较强的领域之一。防御性分类提示词可以是:

将这个获得授权的钓鱼培训测试样本分类为良性、可疑或恶意。
识别支持该分类的可观察线索。
不要访问链接,也不要假定文本中不存在的事实。
测试样本:[插入培训样本]

创建面向修复的报告

可以提示 RavenX 等模型生成结构化报告字段:

仅使用所提供的评估证据,生成:
- 发现标题
- 技术摘要
- 业务影响
- CWE 映射
- 带理由的 CVSS 向量
- 相关的 MITRE ATT&CK 映射(如适用)
- 修复措施
- 复测流程
将每个不确定字段标记为未验证。
证据:[插入经授权的评估记录]

高级技巧

使用可重复的评估集

在采用模型之前,使用来自经授权工作流的小型内部基准对其进行测试。纳入知识问答、日志解读、报告生成、误报处理、证据引用以及拒绝编造缺失事实等项目。比较事实准确性和任务完成度,而不要只衡量模型回答的意愿。

将推理与执行分开

支持工具调用并不意味着可以安全地进行不受限制的自动化。在模型建议与外部操作之间设置审批边界。根据允许列表验证参数,限制凭据权限,隔离执行环境,记录每次调用,并要求人工批准会修改系统或访问敏感数据的操作。

限制运行范围

在系统提示词中提供经授权的目标、允许使用的技术、时间窗口、数据处理规则和预期输出格式。如果某个目标或操作未被明确包含,指示模型停止并请求澄清。

使用检索获取当前事实

安全信息变化迅速。使用经批准的内部文档、最新供应商公告和权威漏洞记录为模型提供依据。要求模型区分检索到的证据与预训练知识,并为每项重要主张引用所提供的来源。

有意识地调整上下文和量化

  • 从能够舒适容纳任务的最小上下文开始。
  • 当内存是主要限制时,使用 Q4 级别的 GGUF 构建版本。
  • 当细微代码或证据分析很重要时,测试更高量化级别。
  • 请记住,MoE 的激活参数量不等于存储需求;所有模型权重仍需要合适的存储和内存处理。
  • 分别测量提示词处理速度和生成速度。

遵守特殊部署要求

并非所有下载内容都是独立的 GGUF 模型。DeepSeek-V4.1-Flash abliterated cybersecurity 版本是适用于兼容现有基础模型包的叠加层。较大的 FP8 条目可能需要特定的多 GPU 配置,而 CYBER-FROST 已在四块 NVIDIA B300 SXM6 GPU 上完成测试,GLM-5.3-CYBERSECURITY 则列出了使用张量并行的八块 H200 GPU。

谨慎处理思维链

Qwythos-9B 被列为始终启用 <think> 块。不要将隐藏或可见的推理文本视为正确性的证据。应根据源材料评估最终答案,并避免在推理轨迹可能包含机密上下文时存储敏感的推理轨迹。

术语表

  • Abliteration:一种权重级干预,通过从残差流中移除拒答方向来实现,无需传统再训练。
  • Obliteration:Abliteration 方法的相关变体。
  • SFT:在带标签或经过整理的领域数据上进行的监督微调。
  • QLoRA:量化低秩适配,一种节省内存的微调方法。
  • DPO:直接偏好优化。
  • MoE:专家混合模型。每个 token 仅激活部分专家,但完整的权重集合仍属于模型的一部分。

结论

最佳模型的选择不仅取决于参数数量或是否愿意回答。先明确获授权的使用场景,然后比较模型的专业化程度、内存需求、上下文长度、工具支持、格式和许可证。一个针对安全性调优的小型 GGUF 模型,可能比大型通用去审查检查点更实用。

对于初步本地测试,1.5B 至 9B 的 GGUF 选项对硬件的要求最低。更大型的智能代理、长上下文、MoE 和 FP8 模型,则更适合使用大内存工作站、托管推理服务或多 GPU 基础设施。在任何部署中,都应保留人工审核、基于证据的验证、严格的范围限定和执行控制。