
RouterHub 的功能
RouterHub 是一个 AI API 网关,通过一个账户、余额和 API 密钥提供对 Claude、GPT、Gemini、Grok、DeepSeek、GLM 和 Qwen 模型系列的访问。它支持兼容 OpenAI 和 Anthropic 的接口,因此许多现有应用只需更改 API 密钥、基础 URL 和模型 ID,即可切换提供商。
模型目录包含标准前沿模型,以及在可用时提供的部分不审查和已移除审查变体。不审查模型是指相比标准版本,设计为拒绝更少请求的变体。模型是引擎,而 API 则是应用用来连接该引擎的通道。
重要提示:较低的拒答倾向并不保证模型会回答每个请求。模型的行为会因模型、版本、提示词和提供商政策而异。您仍需对合法且合乎道德的使用、适当的安全防护措施以及人工审核负责。
主要功能
- 一个账户覆盖多个模型系列:无需为每个模型系列分别维护集成,即可使用 Claude、GPT、Gemini、Grok、DeepSeek、GLM 和 Qwen。
- 兼容 OpenAI:连接 OpenAI SDK 以及支持自定义
base_url的应用。 - 兼容 Anthropic:使用 Anthropic SDK 以及 Claude Code 等 Anthropic 风格的客户端。
- 精选不审查选项:在可用时,可将不审查和已移除审查变体与标准模型一同评估。
- 按使用量计费:按 token 付费,无月度订阅费或席位费。
- 提示词缓存:重复的提示词前缀可按更低的缓存输入费率计费。
- 项目隔离:创建单独的 API 密钥,以区分项目并监控使用量。
- 灵活充值:通过银行卡或加密货币添加预付余额。
选择模型系列
您的选择应取决于工作负载,而不应只看模型系列名称。RouterHub 会在控制面板中列出实时模型 ID、上下文限制、价格和可用性。
- Claude:长篇推理、写作和编程代理。
- GPT:通用助手、工具调用和结构化输出。
- Gemini:多模态工作流、研究和长上下文任务。
- Grok:创意构思和实时风格的回答。
- DeepSeek:编程、推理和高性价比代理。
- GLM:代理工作流、编程和双语任务。
- Qwen:长文档阅读和代理工作流。
随着提供商发布新版本,模型可用性会发生变化。请始终从 RouterHub 控制面板复制当前模型 ID,不要假设旧 ID 仍然有效。
安装与设置
1. 创建账户和 API 密钥
通过 RouterHub 入门页面注册。生成的 API 密钥以 sk- 开头。控制面板概览还会显示所选接口所需的确切基础 URL。
2. 将凭据保存为环境变量
避免直接将凭据放入源文件。在 shell 中导出密钥和兼容 OpenAI 的基础 URL:
export ROUTERHUB_API_KEY="sk-..."
export ROUTERHUB_BASE_URL="https://.../v1"
请从控制面板复制实际 URL。对于 Anthropic 客户端,请使用其中显示的兼容 Anthropic 的基础 URL,不要假设它与兼容 OpenAI 的 URL 相同。
3. 安装应用所需的 SDK
对于兼容 OpenAI 的 Python 示例,请安装 OpenAI SDK:
python -m pip install openai
对于兼容 Anthropic 的示例,请安装 Anthropic SDK:
python -m pip install anthropic
您只需安装项目所使用的 SDK。直接发送 cURL 请求无需安装任何一个 Python 软件包。
使用 OpenAI SDK 的基本方法
创建 OpenAI 客户端,提供 RouterHub 凭据,并将 MODEL_ID 替换为控制面板中的当前 ID:
import os
from openai import OpenAI
client = OpenAI(
api_key=os.environ["ROUTERHUB_API_KEY"],
base_url=os.environ["ROUTERHUB_BASE_URL"],
)
response = client.chat.completions.create(
model="MODEL_ID",
messages=[
{
"role": "system",
"content": "你是一个严谨且乐于助人的助手。"
},
{
"role": "user",
"content": "用两段话解释模型路由的权衡。"
},
],
)
print(response.choices[0].message.content)
model 字段决定由哪个可用模型处理请求。系统消息定义助手的总体行为,用户消息则包含具体任务。
使用 Anthropic SDK 的基本方法
使用 Anthropic SDK 时,请使用控制面板中的兼容 Anthropic 端点:
import os
from anthropic import Anthropic
client = Anthropic(
api_key=os.environ["ROUTERHUB_API_KEY"],
base_url=os.environ["ROUTERHUB_BASE_URL"],
)
message = client.messages.create(
model="MODEL_ID",
max_tokens=1024,
messages=[
{
"role": "user",
"content": "为一个开发者工具撰写一则简洁的发布说明。"
}
],
)
print(message.content[0].text)
Anthropic 请求采用 Messages API 的格式,并将 max_tokens 设置为限制生成的响应。运行此示例前,请确认环境变量中包含兼容 Anthropic 的 URL。
使用 cURL 测试 API
在将 SDK 添加到更大的应用程序之前,直接发送 HTTP 请求有助于检查凭据和模型可用性:
curl "$ROUTERHUB_BASE_URL/chat/completions" \
-H "Authorization: Bearer $ROUTERHUB_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "MODEL_ID",
"messages": [
{
"role": "user",
"content": "Hello from the RouterHub quickstart."
}
]
}'
如果请求失败,请检查 API 密钥、基础 URL、端点路径和当前模型 ID。上游模型更新后,可用性和标识符可能会发生变化。
连接现有开发者工具
RouterHub 可与支持自定义 OpenAI 或 Anthropic 兼容提供商的客户端配合使用:
- Claude Code:将其 Anthropic 基础 URL 配置指向 RouterHub。
- Cursor:将 RouterHub 添加为自定义 OpenAI 兼容提供商。
- Codex CLI:配置 OpenAI 兼容的提供商配置文件。
- OpenCode:设置自定义提供商和有效的模型 ID。
- LangChain 和 LlamaIndex:使用其 OpenAI 兼容适配器。
- 其他兼容应用:替换基础 URL 和 API 密钥,然后选择受支持的模型 ID。
如果工具需要额外的环境变量或提供商设置,请按照代码仓库中针对该客户端的文档操作。
高级提示
使用可重复的测试集比较模型
不要仅根据一个提示词评估模型。建立一个代表实际任务的小型测试集,然后将相同的提示词发送给多个模型系列。在选择生产模型之前,比较回答质量、拒答行为、延迟、一致性和令牌成本。
重新测试确切的模型版本
模型行为取决于版本。适用于某个版本的提示词,在上游更新后可能产生不同结果。记录每次评估所使用的模型 ID,并在更换模型或版本时重新进行关键测试。
使用独立的 API 密钥
为开发、测试、生产环境或不同客户端创建不同的密钥。这样可以隔离项目,并便于通过共享仪表板监控使用情况。切勿将密钥提交到代码仓库,或在浏览器代码中公开密钥。
针对缓存设计提示词
提示词缓存可以降低重复输入前缀的计费成本。当这种结构适合你的应用程序时,请将稳定的指令或共享上下文放在请求开头,并将变化的用户内容放在后面。
确认实时价格和限制
RouterHub 按令牌计费,不要求订阅。但提供商费率、模型可用性和限制可能会发生变化。在估算生产成本或依赖某个特定模型之前,请查看仪表板。
保留应用层安全措施
未审查和经过消融的变体可以减少拒答,但不能免除验证需求。请根据使用场景添加防护措施,审查敏感输出,遵守提供商条款以及适用法律。这对于自主代理和面向公众的助手尤其重要。
实际使用场景
- 比较不同版本在 AI 安全和红队研究中的策略行为。
- 构建创意写作工作流,减少场景中途的拒答,并配合独立的编辑审查流程。
- 通过兼容的编码客户端,在 Claude、GPT、DeepSeek 和 GLM 之间分配编码任务。
- 跨多个模型系列测试多语言提示词,而无需重新构建集成。
- 创建长上下文摘要和文档分析工作流。
- 为聊天机器人和助手后端提供支持,同时集中管理密钥、计费和使用情况。
结语
RouterHub 提供兼容的网关,让你可以通过一个账户测试和使用多个前沿模型系列。首先获取密钥,复制正确的基础 URL 和当前模型 ID,然后运行简单的 SDK 或 cURL 请求。在部署到生产环境之前,系统地比较模型,隔离项目密钥,确认当前价格,并保留适当的安全控制和人工监督。
