Chạy Claude Code qua Infinite Claude Code với tính năng phát trực tuyến, chuyển đổi dự phòng và dự phòng cục bộ

Infinite Claude Code là gì?

Infinite Claude Code là proxy Node.js không phụ thuộc thư viện, kết nối các ứng dụng Anthropic chính thức, bao gồm Claude Code CLI, Claude Desktop và các tiện ích IDE được hỗ trợ, với một nhóm nhà cung cấp mô hình tương thích OpenAI. Proxy tiếp nhận các yêu cầu Anthropic Messages API tại /v1/messages, chuyển đổi chúng sang định dạng của nhà cung cấp, rồi chuyển đổi phản hồi trở lại thành Server-Sent Events theo thời gian thực, tương thích với Anthropic.

Dự án ưu tiên các mô hình đám mây miễn phí, hỗ trợ thông tin xác thực tùy chọn của nhà cung cấp và có thể chuyển sang một phiên bản Ollama cục bộ. Theo README của dự án, router khởi động nhanh, sử dụng dưới 30 MB RAM và không tiêu thụ CPU khi ở trạng thái chờ.

Kho mã mô tả nhóm dịch vụ đám mây được cấu hình sẵn là miễn phí. Tuy nhiên, tình trạng khả dụng, giới hạn tốc độ, quyền truy cập mô hình và giá cả vẫn có thể thay đổi theo các dịch vụ bên ngoài liên quan, vì vậy hãy xem điều khoản hiện hành của từng nhà cung cấp trước khi dựa vào dịch vụ đó cho các tác vụ lâu dài.

Router hoạt động như thế nào

Router cục bộ mặc định lắng nghe tại 127.0.0.1:20129. Claude Code gửi yêu cầu theo kiểu Anthropic đến điểm cuối này, sau đó Infinite Claude Code phân loại tác vụ, chọn mô hình phù hợp, chuyển đổi các lệnh gọi công cụ và truyền kết quả trở lại ứng dụng khách.

1. Claude Code, Claude Desktop hoặc tiện ích IDE gửi yêu cầu đến /v1/messages.

2. Bộ phân loại ngữ nghĩa phân tích prompt và các công cụ khả dụng.

3. Bộ điều phối chọn nhà cung cấp và mô hình từ nhóm ưu tiên.

4. Nếu nhà cung cấp đó không khả dụng hoặc bị giới hạn tốc độ, router chuyển sang một nhà cung cấp khác đã cấu hình.

5. Các lệnh gọi hàm theo kiểu OpenAI được chuyển đổi thành thông báo sử dụng công cụ theo kiểu Anthropic.

6. Các token phản hồi được trả về qua luồng SSE theo thời gian thực.

7. Nếu các tuyến đám mây không khả dụng và Ollama đã được cấu hình, router có thể sử dụng mô hình cục bộ.

Tính năng chính

Điều phối tác tử con đồng thời

Khi Claude Code khởi chạy nhiều tác tử con hoặc phiên nền, bộ điều phối swarm có thể phân phối các yêu cầu đồng thời qua nhiều nhà cung cấp thay vì gửi toàn bộ tác vụ đến một mô hình. Điều này nhằm giảm tình trạng nghẽn tại một nhà cung cấp và lỗi do giới hạn tốc độ.

Định tuyến tác vụ theo ngữ nghĩa

Router chọn mô hình dựa trên khối lượng công việc dự kiến. Chiến lược định tuyến được tài liệu hóa ưu tiên các mô hình suy luận như Nemotron 120B hoặc Kimi K3 cho tác vụ kiến trúc, các mô hình tập trung vào mã như North Mini Code hoặc Qwen Coder cho việc tạo mã và chỉnh sửa tệp, cùng Nemotron Lightning cho các lệnh nhanh.

Sửa lệnh gọi công cụ

Một số mô hình có trọng số mở tạo JSON không hợp lệ trong các đối số công cụ. Infinite Claude Code tích hợp bộ làm sạch dựa trên AST, cố gắng sửa các vấn đề như dấu ngoặc kép chưa được escape hoặc dấu ngoặc chưa hoàn chỉnh trước khi Claude Code thực thi lệnh gọi công cụ.

Tự động chuyển đổi nhà cung cấp

Dự án hỗ trợ nhóm ưu tiên gồm OpenRouter, NVIDIA NIM, OmniRouter, 9Router, Groq, Cerebras, Together AI, Google Gemini, Mistral AI, OpenAI, Anthropic và các dịch vụ tùy chọn khác. Một yêu cầu thất bại hoặc bị giới hạn tốc độ có thể được thử lại thông qua một nhà cung cấp khả dụng khác.

Bảng điều khiển giám sát

HUD trên trình duyệt hiển thị các tác tử con đang hoạt động, hoạt động của nhà cung cấp, số token được tạo, độ trễ và bộ đếm tiền tiết kiệm ước tính dựa trên giá API chính thức của Claude 3.7 Sonnet.

Dự phòng ngoại tuyến

Ollama có thể cung cấp khả năng dự phòng cục bộ với các mô hình như qwen3:4b hoặc deepseek-r1. Hiệu suất cục bộ và độ tin cậy của công cụ phụ thuộc vào mô hình được chọn và phần cứng của bạn.

Điều kiện tiên quyết

• Node.js 18 trở lên.

• Git cho các phương thức cài đặt thủ công.

• Claude Code CLI, Claude Desktop hoặc tích hợp IDE tương thích.

• PowerShell trên Windows hoặc shell trên macOS và Linux.

• Ollama chỉ cần thiết nếu bạn muốn có khả năng dự phòng ngoại tuyến cục bộ.

Bản thân dự án không yêu cầu môi trường Python hoặc các gói Node.js bổ sung.

Cài đặt Infinite Claude Code

Tùy chọn 1: Trình cài đặt một dòng trên Windows

Mở PowerShell và chạy lệnh cài đặt từ kho mã:

& ([scriptblock]::Create((irm "https://raw.githubusercontent.com/juanitogit/infinite-claude-code/main/install.ps1")))

Vì lệnh này tải xuống và thực thi ngay một script từ xa, hãy xem xét install.ps1 trước nếu chính sách bảo mật của bạn yêu cầu.

Tùy chọn 2: Cài đặt thủ công trên Windows

git clone https://github.com/juanitogit/infinite-claude-code.git
cd infinite-claude-code
powershell -ExecutionPolicy Bypass -File .\install.ps1

Tùy chọn 3: Cài đặt trên macOS hoặc Linux

git clone https://github.com/juanitogit/infinite-claude-code.git
cd infinite-claude-code
chmod +x install.sh && ./install.sh

Chọn chế độ cài đặt

Trình cài đặt tương tác cung cấp hai chế độ:

• Cài đặt nhanh: cấu hình gói miễn phí được thiết lập sẵn theo tài liệu mà không yêu cầu thông tin xác thực tùy chọn của nhà cung cấp.

• Cài đặt tùy chỉnh: yêu cầu khóa API cho các nhà cung cấp bổ sung. Nhấn Enter để bỏ qua bất kỳ nhà cung cấp nào bạn không muốn cấu hình.

Kiểm tra router cục bộ

Từ thư mục kho mã, kiểm tra trạng thái dịch vụ:

node bin/infinite-claude.js status

Một bản cài đặt hoạt động bình thường sẽ báo Infinite Claude Code đang hoạt động, xác định URL cục bộ là http://127.0.0.1:20129, xác nhận luồng SSE và liệt kê các nhà cung cấp đang hoạt động trong nhóm.

Infinite Claude Code đang HOẠT ĐỘNG và ỔN ĐỊNH!
URL: http://127.0.0.1:20129
Streaming: ĐÃ BẬT (SSE theo thời gian thực)
Các nhà cung cấp đang hoạt động trong nhóm: ...

Nếu dịch vụ không hoạt động ổn định, hãy xác nhận rằng Node.js 18 hoặc mới hơn khả dụng và không có ứng dụng nào khác đang sử dụng cổng 20129.

Khởi chạy Claude Code

Sau khi router đang chạy và trình cài đặt đã cấu hình client, hãy khởi chạy Claude Code như bình thường:

claude

Sau đó, bạn có thể nhập yêu cầu lập trình trong phiên tương tác:

Inspect this project, explain its architecture, and identify the safest first refactoring task.

Yêu cầu sẽ được định tuyến qua proxy cục bộ, với câu trả lời được truyền về ngay khi được tạo.

Thử một tác vụ trực tiếp

Claude Code cũng có thể nhận prompt trực tiếp từ terminal:

claude "Review the authentication module and propose a refactoring plan"

Điều này hữu ích cho công việc tập trung, không cần bắt đầu bằng một phiên tương tác trống. Việc chọn model được xử lý bởi logic định tuyến của Infinite Claude Code thay vì bởi chính lệnh này.

Giám sát yêu cầu trong Cyber HUD

Mở địa chỉ cục bộ sau trong khi router đang hoạt động:

http://localhost:20129/hud

HUD cung cấp dữ liệu giám sát trực tiếp cho phiên hiện tại, bao gồm:

• Nhà cung cấp đang xử lý từng yêu cầu.

• Số lượng token đã tạo.

• Độ trễ yêu cầu tính bằng mili giây.

• Số lượng subagent đồng thời đang hoạt động.

• Bộ đếm khoản tiết kiệm ước tính dựa trên mức giá API của Claude 3.7 Sonnet.

Sử dụng bảng điều khiển này để xác nhận rằng các yêu cầu đang được phân phối giữa nhóm đã cấu hình và phát hiện những nhà cung cấp có độ trễ cao bất thường.

Cấu hình nhà cung cấp và biến môi trường

Bạn có thể tùy chỉnh định nghĩa nhà cung cấp trong src/providers.js hoặc cung cấp thông tin xác thực và endpoint thông qua các biến môi trường. README ghi nhận các biến sau:

• OPENROUTER_API_KEY: thông tin xác thực OpenRouter tùy chỉnh. Mặc định được ghi nhận sử dụng gói miễn phí đã cấu hình sẵn.

• NVIDIA_API_KEY: thông tin xác thực NVIDIA NIM tùy chỉnh. Repository ghi nhận một khóa NIM được cấu hình sẵn làm mặc định.

• OMNIROUTER_API_KEY: thông tin xác thực OmniRouter tùy chỉnh.

• ROUTER9_API_KEY: thông tin xác thực 9Router tùy chỉnh.

• GROQ_API_KEY: thông tin xác thực Groq tùy chọn.

• TOGETHER_API_KEY: thông tin xác thực Together AI tùy chọn.

• OLLAMA_HOST: endpoint Ollama, mặc định là http://localhost:11434.

• PORT: cổng proxy cục bộ, mặc định là 20129.

Ví dụ, shell macOS hoặc Linux có thể trỏ router đến một host Ollama và cổng khác trước khi khởi động:

export OLLAMA_HOST="http://localhost:11434"
export PORT="20129"

Trong PowerShell, các biến phiên tương đương là:

$env:OLLAMA_HOST = "http://localhost:11434"
$env:PORT = "20129"

Hãy lưu các API key cá nhân bên ngoài hệ thống kiểm soát phiên bản. Không commit profile shell, tệp môi trường hoặc cấu hình nhà cung cấp đã chỉnh sửa có chứa thông tin bí mật.

Thiết lập Ollama làm phương án dự phòng cục bộ

Infinite Claude Code hỗ trợ Ollama làm tuyến ngoại tuyến hoặc khẩn cấp. README liệt kê qwen3:4b và deepseek-r1 làm các model cục bộ mẫu.

1. Cài đặt và khởi động Ollama riêng.

2. Cung cấp model mong muốn trong bản cài đặt Ollama của bạn.

3. Giữ OLLAMA_HOST ở http://localhost:11434 hoặc thay đổi thành endpoint tùy chỉnh của bạn.

4. Xác minh lại router Infinite Claude Code bằng lệnh trạng thái.

Phương án dự phòng cục bộ đặc biệt hữu ích khi mất kết nối Internet, dù tốc độ model, dung lượng ngữ cảnh và chất lượng lập trình sẽ phụ thuộc vào model cục bộ cũng như tài nguyên CPU, bộ nhớ hoặc GPU khả dụng.

Chạy subagent tự động

Đối với tác vụ hưởng lợi từ việc phân rã, hãy yêu cầu rõ ràng Claude Code tạo các subagent đồng thời:

claude "Divide this task and use concurrent subagents in parallel to build the complete platform"

Bạn cũng có thể gửi một tác vụ nền bằng tùy chọn --bg được ghi nhận:

claude --bg "Refactor the authentication module and write unit tests"

Router được thiết kế để phân phối các lệnh gọi subagent đồng thời giữa các nhà cung cấp riêng biệt. Theo dõi HUD trong khi tác vụ chạy để quan sát tải của nhóm tác vụ và việc lựa chọn nhà cung cấp.

Mẹo nâng cao

Điều chỉnh mức đồng thời theo khả năng cung cấp

Dự án hỗ trợ mức đồng thời lớn, nhưng các nhà cung cấp bên ngoài vẫn có thể áp dụng giới hạn tốc độ hoặc hạn chế khả dụng riêng. Kiểm tra HUD và danh sách nhà cung cấp đang hoạt động trước khi khởi chạy nhiều tác vụ nền.

Sử dụng các khóa tùy chọn để mở rộng nhóm

Nếu các tuyến được cấu hình sẵn bị quá tải, Custom Install có thể thêm các nhà cung cấp như Groq hoặc Together AI. Nhóm được cấu hình rộng hơn cung cấp cho hệ thống chuyển đổi dự phòng nhiều tuyến hơn, nhưng mỗi dịch vụ tùy chọn có thể có hạn ngạch và điều khoản riêng.

Sử dụng lệnh trạng thái khi khắc phục sự cố

Chạy node bin/infinite-claude.js status trước khi gỡ lỗi chính client Claude. Cách này nhanh chóng phân biệt sự cố router cục bộ với sự cố của nhà cung cấp model hoặc client.

Thay đổi cổng khi cần

Nếu cổng 20129 xung đột với dịch vụ khác, hãy đặt PORT thành một giá trị khác. Đảm bảo cấu hình client Anthropic trỏ đến cùng endpoint cục bộ sau khi thay đổi.

Kiểm tra kỹ cấu hình nhà cung cấp

Người dùng nâng cao có thể chỉnh sửa src/providers.js để tùy chỉnh các mô hình. Giữ nguyên định dạng nhà cung cấp được yêu cầu và kiểm tra các thay đổi bằng một yêu cầu đơn giản trước khi khởi chạy các tác nhân đồng thời.

Bảo vệ mã độc quyền

Các lời nhắc được định tuyến qua đám mây có thể bao gồm mã nguồn, đầu ra của công cụ hoặc ngữ cảnh dự án. Hãy xem xét chính sách quyền riêng tư và xử lý dữ liệu của mọi nhà cung cấp được bật trước khi sử dụng bộ định tuyến với các kho mã nguồn mật. Ưu tiên tuyến Ollama khi công việc cần được giữ cục bộ.

Kết luận

Infinite Claude Code cung cấp một lớp dịch và định tuyến gọn nhẹ giữa các ứng dụng khách Anthropic với một mạng lưới lớn các mô hình đám mây hoặc cục bộ. Sau khi chạy trình cài đặt, hãy xác minh dịch vụ, khởi chạy claude và sử dụng HUD để theo dõi hoạt động truyền phát, chuyển đổi dự phòng và các tác nhân con đồng thời. Các khóa nhà cung cấp tùy chọn cùng Ollama cho phép bạn mở rộng mạng lưới hoặc bổ sung khả năng phục hồi cục bộ tùy theo quy trình làm việc.

Dự án được JuaneX duy trì và phân phối theo Giấy phép MIT. Mã nguồn và tập lệnh cài đặt có sẵn trong kho lưu trữ Infinite Claude Code.