跳到主要内容
AI教程

如何通过 RouterHub 访问前沿及无审查 AI 模型

了解如何配置 RouterHub、选择当前模型,并使用 OpenAI SDK、Anthropic SDK 或 cURL 发送请求。本教程还涵盖兼容工具、计费、模型评估、提示缓存、项目隔离和负责任部署。

如何通过 RouterHub 访问前沿及无审查 AI 模型

RouterHub 的功能

RouterHub 是一个 AI API 网关,通过一个账户、余额和 API 密钥提供对 Claude、GPT、Gemini、Grok、DeepSeek、GLM 和 Qwen 模型系列的访问。它支持兼容 OpenAI 和 Anthropic 的接口,因此许多现有应用只需更改 API 密钥、基础 URL 和模型 ID,即可切换提供商。

模型目录包含标准前沿模型,以及在可用时提供的部分不审查和已移除审查变体。不审查模型是指相比标准版本,设计为拒绝更少请求的变体。模型是引擎,而 API 则是应用用来连接该引擎的通道。

重要提示:较低的拒答倾向并不保证模型会回答每个请求。模型的行为会因模型、版本、提示词和提供商政策而异。您仍需对合法且合乎道德的使用、适当的安全防护措施以及人工审核负责。

主要功能

  • 一个账户覆盖多个模型系列:无需为每个模型系列分别维护集成,即可使用 Claude、GPT、Gemini、Grok、DeepSeek、GLM 和 Qwen。
  • 兼容 OpenAI:连接 OpenAI SDK 以及支持自定义 base_url 的应用。
  • 兼容 Anthropic:使用 Anthropic SDK 以及 Claude Code 等 Anthropic 风格的客户端。
  • 精选不审查选项:在可用时,可将不审查和已移除审查变体与标准模型一同评估。
  • 按使用量计费:按 token 付费,无月度订阅费或席位费。
  • 提示词缓存:重复的提示词前缀可按更低的缓存输入费率计费。
  • 项目隔离:创建单独的 API 密钥,以区分项目并监控使用量。
  • 灵活充值:通过银行卡或加密货币添加预付余额。

选择模型系列

您的选择应取决于工作负载,而不应只看模型系列名称。RouterHub 会在控制面板中列出实时模型 ID、上下文限制、价格和可用性。

  • Claude:长篇推理、写作和编程代理。
  • GPT:通用助手、工具调用和结构化输出。
  • Gemini:多模态工作流、研究和长上下文任务。
  • Grok:创意构思和实时风格的回答。
  • DeepSeek:编程、推理和高性价比代理。
  • GLM:代理工作流、编程和双语任务。
  • Qwen:长文档阅读和代理工作流。

随着提供商发布新版本,模型可用性会发生变化。请始终从 RouterHub 控制面板复制当前模型 ID,不要假设旧 ID 仍然有效。

安装与设置

1. 创建账户和 API 密钥

通过 RouterHub 入门页面注册。生成的 API 密钥以 sk- 开头。控制面板概览还会显示所选接口所需的确切基础 URL。

2. 将凭据保存为环境变量

避免直接将凭据放入源文件。在 shell 中导出密钥和兼容 OpenAI 的基础 URL:

export ROUTERHUB_API_KEY="sk-..."
export ROUTERHUB_BASE_URL="https://.../v1"

请从控制面板复制实际 URL。对于 Anthropic 客户端,请使用其中显示的兼容 Anthropic 的基础 URL,不要假设它与兼容 OpenAI 的 URL 相同。

3. 安装应用所需的 SDK

对于兼容 OpenAI 的 Python 示例,请安装 OpenAI SDK:

python -m pip install openai

对于兼容 Anthropic 的示例,请安装 Anthropic SDK:

python -m pip install anthropic

您只需安装项目所使用的 SDK。直接发送 cURL 请求无需安装任何一个 Python 软件包。

使用 OpenAI SDK 的基本方法

创建 OpenAI 客户端,提供 RouterHub 凭据,并将 MODEL_ID 替换为控制面板中的当前 ID:

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["ROUTERHUB_API_KEY"],
    base_url=os.environ["ROUTERHUB_BASE_URL"],
)

response = client.chat.completions.create(
    model="MODEL_ID",
    messages=[
        {
            "role": "system",
            "content": "你是一个严谨且乐于助人的助手。"
        },
        {
            "role": "user",
            "content": "用两段话解释模型路由的权衡。"
        },
    ],
)

print(response.choices[0].message.content)

model 字段决定由哪个可用模型处理请求。系统消息定义助手的总体行为,用户消息则包含具体任务。

使用 Anthropic SDK 的基本方法

使用 Anthropic SDK 时,请使用控制面板中的兼容 Anthropic 端点:

import os
from anthropic import Anthropic

client = Anthropic(
    api_key=os.environ["ROUTERHUB_API_KEY"],
    base_url=os.environ["ROUTERHUB_BASE_URL"],
)

message = client.messages.create(
    model="MODEL_ID",
    max_tokens=1024,
    messages=[
        {
            "role": "user",
            "content": "为一个开发者工具撰写一则简洁的发布说明。"
        }
    ],
)

print(message.content[0].text)

Anthropic 请求采用 Messages API 的格式,并将 max_tokens 设置为限制生成的响应。运行此示例前,请确认环境变量中包含兼容 Anthropic 的 URL。

使用 cURL 测试 API

在将 SDK 添加到更大的应用程序之前,直接发送 HTTP 请求有助于检查凭据和模型可用性:

curl "$ROUTERHUB_BASE_URL/chat/completions" \
  -H "Authorization: Bearer $ROUTERHUB_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "MODEL_ID",
    "messages": [
      {
        "role": "user",
        "content": "Hello from the RouterHub quickstart."
      }
    ]
  }'

如果请求失败,请检查 API 密钥、基础 URL、端点路径和当前模型 ID。上游模型更新后,可用性和标识符可能会发生变化。

连接现有开发者工具

RouterHub 可与支持自定义 OpenAI 或 Anthropic 兼容提供商的客户端配合使用:

  • Claude Code:将其 Anthropic 基础 URL 配置指向 RouterHub。
  • Cursor:将 RouterHub 添加为自定义 OpenAI 兼容提供商。
  • Codex CLI:配置 OpenAI 兼容的提供商配置文件。
  • OpenCode:设置自定义提供商和有效的模型 ID。
  • LangChain 和 LlamaIndex:使用其 OpenAI 兼容适配器。
  • 其他兼容应用:替换基础 URL 和 API 密钥,然后选择受支持的模型 ID。

如果工具需要额外的环境变量或提供商设置,请按照代码仓库中针对该客户端的文档操作。

高级提示

使用可重复的测试集比较模型

不要仅根据一个提示词评估模型。建立一个代表实际任务的小型测试集,然后将相同的提示词发送给多个模型系列。在选择生产模型之前,比较回答质量、拒答行为、延迟、一致性和令牌成本。

重新测试确切的模型版本

模型行为取决于版本。适用于某个版本的提示词,在上游更新后可能产生不同结果。记录每次评估所使用的模型 ID,并在更换模型或版本时重新进行关键测试。

使用独立的 API 密钥

为开发、测试、生产环境或不同客户端创建不同的密钥。这样可以隔离项目,并便于通过共享仪表板监控使用情况。切勿将密钥提交到代码仓库,或在浏览器代码中公开密钥。

针对缓存设计提示词

提示词缓存可以降低重复输入前缀的计费成本。当这种结构适合你的应用程序时,请将稳定的指令或共享上下文放在请求开头,并将变化的用户内容放在后面。

确认实时价格和限制

RouterHub 按令牌计费,不要求订阅。但提供商费率、模型可用性和限制可能会发生变化。在估算生产成本或依赖某个特定模型之前,请查看仪表板。

保留应用层安全措施

未审查和经过消融的变体可以减少拒答,但不能免除验证需求。请根据使用场景添加防护措施,审查敏感输出,遵守提供商条款以及适用法律。这对于自主代理和面向公众的助手尤其重要。

实际使用场景

  • 比较不同版本在 AI 安全和红队研究中的策略行为。
  • 构建创意写作工作流,减少场景中途的拒答,并配合独立的编辑审查流程。
  • 通过兼容的编码客户端,在 Claude、GPT、DeepSeek 和 GLM 之间分配编码任务。
  • 跨多个模型系列测试多语言提示词,而无需重新构建集成。
  • 创建长上下文摘要和文档分析工作流。
  • 为聊天机器人和助手后端提供支持,同时集中管理密钥、计费和使用情况。

结语

RouterHub 提供兼容的网关,让你可以通过一个账户测试和使用多个前沿模型系列。首先获取密钥,复制正确的基础 URL 和当前模型 ID,然后运行简单的 SDK 或 cURL 请求。在部署到生产环境之前,系统地比较模型,隔离项目密钥,确认当前价格,并保留适当的安全控制和人工监督。