Chuyển đến nội dung chính
Hướng dẫn AI

Cách truy cập các mô hình AI tiên phong và không kiểm duyệt với RouterHub

Tìm hiểu cách cấu hình RouterHub, chọn mô hình hiện hành và gửi yêu cầu bằng OpenAI SDK, Anthropic SDK hoặc cURL. Hướng dẫn này cũng trình bày các công cụ tương thích, thanh toán, đánh giá mô hình, bộ nhớ đệm prompt, cách ly dự án và triển khai có trách nhiệm.

Cách truy cập các mô hình AI tiên phong và không kiểm duyệt với RouterHub

RouterHub làm gì

RouterHub là cổng API AI cung cấp quyền truy cập vào các dòng mô hình Claude, GPT, Gemini, Grok, DeepSeek, GLM và Qwen thông qua một tài khoản, số dư và khóa API duy nhất. Dịch vụ hỗ trợ các giao diện tương thích với OpenAI và Anthropic, cho phép nhiều ứng dụng hiện có chuyển đổi nhà cung cấp chỉ bằng cách thay đổi khóa API, URL cơ sở và ID mô hình.

Danh mục bao gồm các mô hình tiên tiến tiêu chuẩn cùng một số biến thể không kiểm duyệt và abliterated khi có sẵn. Mô hình không kiểm duyệt là biến thể được thiết kế để từ chối ít yêu cầu hơn so với bản phát hành tiêu chuẩn. Mô hình là bộ máy, còn API là kết nối mà ứng dụng của bạn sử dụng để truy cập bộ máy đó.

Quan trọng: Việc giảm mức độ từ chối không đảm bảo mô hình sẽ trả lời mọi yêu cầu. Hành vi thay đổi tùy theo mô hình, phiên bản, prompt và chính sách của nhà cung cấp. Bạn vẫn chịu trách nhiệm về việc sử dụng hợp pháp và có đạo đức, các cơ chế bảo vệ phù hợp và việc con người kiểm duyệt.

Tính năng chính

  • Một tài khoản cho nhiều dòng mô hình: Sử dụng Claude, GPT, Gemini, Grok, DeepSeek, GLM và Qwen mà không cần duy trì một tích hợp riêng cho từng dòng.
  • Tương thích với OpenAI: Kết nối SDK OpenAI và các ứng dụng chấp nhận base_url tùy chỉnh.
  • Tương thích với Anthropic: Sử dụng SDK Anthropic và các client theo kiểu Anthropic như Claude Code.
  • Các tùy chọn không kiểm duyệt: Đánh giá các biến thể không kiểm duyệt và abliterated cùng với mô hình tiêu chuẩn khi có sẵn.
  • Tính phí theo mức sử dụng: Trả phí theo token mà không cần đăng ký hằng tháng hoặc trả phí theo chỗ ngồi.
  • Lưu bộ nhớ đệm prompt: Các tiền tố prompt lặp lại có thể được tính theo mức phí đầu vào đã lưu thấp hơn.
  • Cách ly dự án: Tạo các khóa API riêng để phân tách dự án và theo dõi mức sử dụng.
  • Nạp tiền linh hoạt: Nạp tín dụng trả trước bằng thẻ hoặc tiền mã hóa.

Chọn dòng mô hình

Lựa chọn của bạn nên phản ánh khối lượng công việc thay vì chỉ dựa vào tên dòng mô hình. RouterHub liệt kê ID mô hình đang hoạt động, giới hạn ngữ cảnh, giá và tình trạng khả dụng trong trang tổng quan.

  • Claude: Suy luận dài, viết và các agent lập trình.
  • GPT: Trợ lý đa dụng, sử dụng công cụ và đầu ra có cấu trúc.
  • Gemini: Quy trình đa phương thức, nghiên cứu và tác vụ có ngữ cảnh dài.
  • Grok: Hình thành ý tưởng và các câu trả lời theo thời gian thực.
  • DeepSeek: Lập trình, suy luận và các agent tiết kiệm chi phí.
  • GLM: Quy trình agent, lập trình và tác vụ song ngữ.
  • Qwen: Đọc tài liệu dài và quy trình agent.

Tình trạng khả dụng của mô hình thay đổi khi các nhà cung cấp phát hành phiên bản mới. Luôn sao chép ID mô hình hiện tại từ trang tổng quan RouterHub thay vì giả định rằng ID cũ vẫn còn hoạt động.

Cài đặt và thiết lập

1. Tạo tài khoản và khóa API

Đăng ký qua trang bắt đầu sử dụng RouterHub. Khóa API được tạo bắt đầu bằng sk-. Tổng quan trang tổng quan cũng hiển thị URL cơ sở chính xác cần thiết cho giao diện bạn đã chọn.

2. Lưu thông tin xác thực dưới dạng biến môi trường

Tránh đặt thông tin xác thực trực tiếp trong tệp mã nguồn. Xuất khóa và URL cơ sở tương thích với OpenAI trong shell:

export ROUTERHUB_API_KEY="sk-..."
export ROUTERHUB_BASE_URL="https://.../v1"

Sao chép URL thực tế từ trang tổng quan. Với các client Anthropic, hãy sử dụng URL cơ sở tương thích với Anthropic được hiển thị tại đó thay vì giả định URL này giống với URL tương thích với OpenAI.

3. Cài đặt SDK cần thiết cho ứng dụng

Đối với ví dụ Python tương thích với OpenAI, hãy cài đặt SDK OpenAI:

python -m pip install openai

Đối với ví dụ tương thích với Anthropic, hãy cài đặt SDK Anthropic:

python -m pip install anthropic

Bạn chỉ cần SDK mà dự án sử dụng. Yêu cầu cURL trực tiếp không cần bất kỳ gói Python nào trong hai gói trên.

Sử dụng cơ bản với SDK OpenAI

Tạo một client OpenAI, cung cấp thông tin xác thực RouterHub và thay MODEL_ID bằng ID hiện tại từ trang tổng quan:

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["ROUTERHUB_API_KEY"],
    base_url=os.environ["ROUTERHUB_BASE_URL"],
)

response = client.chat.completions.create(
    model="MODEL_ID",
    messages=[
        {
            "role": "system",
            "content": "You are a precise, helpful assistant."
        },
        {
            "role": "user",
            "content": "Explain the trade-offs of model routing in two paragraphs."
        },
    ],
)

print(response.choices[0].message.content)

Trường model xác định mô hình khả dụng nào sẽ xử lý yêu cầu. Tin nhắn hệ thống xác định hành vi tổng quát của trợ lý, còn tin nhắn người dùng chứa tác vụ.

Sử dụng cơ bản với SDK Anthropic

Sử dụng endpoint tương thích với Anthropic từ trang tổng quan khi làm việc với SDK Anthropic:

import os
from anthropic import Anthropic

client = Anthropic(
    api_key=os.environ["ROUTERHUB_API_KEY"],
    base_url=os.environ["ROUTERHUB_BASE_URL"],
)

message = client.messages.create(
    model="MODEL_ID",
    max_tokens=1024,
    messages=[
        {
            "role": "user",
            "content": "Write a concise release note for a developer tool."
        }
    ],
)

print(message.content[0].text)

Yêu cầu Anthropic sử dụng cấu trúc của Messages API và đặt max_tokens để giới hạn phản hồi được tạo. Hãy xác nhận biến môi trường của bạn chứa URL tương thích với Anthropic trước khi chạy ví dụ này.

Kiểm tra API bằng cURL

Một yêu cầu HTTP trực tiếp hữu ích để kiểm tra thông tin xác thực và khả dụng của mô hình trước khi thêm SDK vào một ứng dụng lớn hơn:

curl "$ROUTERHUB_BASE_URL/chat/completions" \
  -H "Authorization: Bearer $ROUTERHUB_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "MODEL_ID",
    "messages": [
      {
        "role": "user",
        "content": "Hello from the RouterHub quickstart."
      }
    ]
  }'

Nếu yêu cầu không thành công, hãy kiểm tra khóa API, base URL, đường dẫn endpoint và model ID hiện tại. Tính khả dụng và các mã định danh có thể thay đổi sau khi mô hình nguồn được cập nhật.

Kết nối các công cụ dành cho nhà phát triển hiện có

RouterHub có thể hoạt động với các ứng dụng cho phép nhà cung cấp tùy chỉnh tương thích với OpenAI hoặc Anthropic:

  • Claude Code: Trỏ cấu hình base URL Anthropic của công cụ này đến RouterHub.
  • Cursor: Thêm RouterHub làm nhà cung cấp tùy chỉnh tương thích với OpenAI.
  • Codex CLI: Cấu hình hồ sơ nhà cung cấp tương thích với OpenAI.
  • OpenCode: Thiết lập nhà cung cấp tùy chỉnh và model ID hợp lệ.
  • LangChain và LlamaIndex: Sử dụng các bộ chuyển đổi tương thích với OpenAI của chúng.
  • Các ứng dụng tương thích khác: Thay thế base URL và khóa API, sau đó chọn model ID được hỗ trợ.

Hãy tham khảo tài liệu dành riêng cho từng ứng dụng trong kho mã khi công cụ yêu cầu thêm biến môi trường hoặc cài đặt nhà cung cấp.

Mẹo nâng cao

So sánh các mô hình bằng bộ kiểm thử có thể lặp lại

Đừng đánh giá một mô hình chỉ từ một prompt. Hãy xây dựng một bộ kiểm thử nhỏ đại diện cho các tác vụ thực tế, sau đó gửi cùng các prompt đến một số họ mô hình. So sánh chất lượng câu trả lời, cách từ chối, độ trễ, tính nhất quán và chi phí token trước khi chọn mô hình cho môi trường production.

Kiểm thử lại các phiên bản mô hình chính xác

Hành vi phụ thuộc vào phiên bản. Một prompt hoạt động với một bản phát hành có thể cho kết quả khác sau khi mô hình nguồn được cập nhật. Ghi lại model ID được sử dụng trong mỗi lần đánh giá và lặp lại các kiểm thử quan trọng mỗi khi bạn thay đổi mô hình hoặc phiên bản.

Sử dụng các khóa API riêng biệt

Tạo các khóa khác nhau cho môi trường phát triển, kiểm thử, production hoặc từng ứng dụng khách. Cách này giúp cô lập các dự án và dễ theo dõi mức sử dụng hơn từ dashboard dùng chung. Không bao giờ commit khóa vào kho mã hoặc để lộ chúng trong mã trình duyệt.

Thiết kế prompt để tận dụng bộ nhớ đệm

Bộ nhớ đệm prompt có thể giảm chi phí tính phí cho các tiền tố đầu vào lặp lại. Khi cấu trúc đó phù hợp với ứng dụng, hãy đặt các hướng dẫn ổn định hoặc ngữ cảnh dùng chung ở đầu yêu cầu, đồng thời đặt nội dung người dùng thay đổi ở phía sau.

Xác nhận giá và giới hạn hiện tại

RouterHub sử dụng hình thức thanh toán theo token và không yêu cầu đăng ký gói thuê bao. Tuy nhiên, mức phí của nhà cung cấp, tính khả dụng của mô hình và các giới hạn có thể thay đổi. Hãy kiểm tra dashboard trước khi ước tính chi phí production hoặc phụ thuộc vào một mô hình cụ thể.

Duy trì các biện pháp bảo vệ ở cấp ứng dụng

Các biến thể không kiểm duyệt và abliterated giúp giảm số lần từ chối, nhưng không loại bỏ nhu cầu xác thực. Hãy thêm các biện pháp bảo vệ phù hợp với trường hợp sử dụng, xem xét các đầu ra nhạy cảm, tuân thủ điều khoản của nhà cung cấp và các luật hiện hành. Điều này đặc biệt quan trọng đối với tác nhân tự động và trợ lý hướng đến công chúng.

Trường hợp sử dụng thực tế

  • So sánh hành vi chính sách giữa các phiên bản để phục vụ nghiên cứu an toàn AI và red team.
  • Xây dựng quy trình viết sáng tạo với ít lần từ chối giữa cảnh hơn và một quy trình biên tập riêng.
  • Phân phối các tác vụ lập trình qua Claude, GPT, DeepSeek và GLM từ các ứng dụng lập trình tương thích.
  • Kiểm thử prompt đa ngôn ngữ trên nhiều họ mô hình mà không cần xây dựng lại tích hợp.
  • Tạo quy trình tóm tắt ngữ cảnh dài và phân tích tài liệu.
  • Cung cấp nền tảng cho các backend chatbot và trợ lý, đồng thời tập trung hóa khóa, thanh toán và mức sử dụng.

Kết luận

RouterHub cung cấp một cổng tương thích để kiểm thử và sử dụng nhiều họ mô hình tiên tiến thông qua một tài khoản. Hãy bắt đầu bằng cách lấy khóa, sao chép base URL chính xác và model ID hiện tại, rồi chạy một yêu cầu SDK hoặc cURL đơn giản. Trước khi triển khai production, hãy so sánh các mô hình một cách có hệ thống, cô lập khóa theo dự án, xác minh mức giá hiện tại và duy trì các biện pháp kiểm soát an toàn cũng như sự giám sát phù hợp của con người.