Quan trọng: Astra-Ares là một bản triển khai tham chiếu thử nghiệm. Công cụ này chạy một Codex CLI riêng đã được vá và chủ yếu dành cho việc thử nghiệm hoặc cho các nhà phát triển muốn đưa cơ chế điều chỉnh mức độ suy luận vào hệ thống tác tử của riêng mình.
Astra-Ares thực hiện những gì
Astra-Ares bổ sung khả năng lựa chọn mức độ suy luận thích ứng cho GPT-6 Astra trong khi một tác vụ Codex đang chạy. Thay vì gán một mức suy luận cố định cho toàn bộ tác vụ, công cụ sử dụng một bộ đánh giá có tên Jev để chọn mức độ suy luận Astra nên áp dụng cho bước tiếp theo.
Jev phân tích ngữ cảnh tác vụ được giới hạn, chọn mức độ xử lý tiếp theo và quyết định lựa chọn đó sẽ được duy trì trong 1, 2, 5 hoặc 10 lần sinh đầu ra của mô hình. Sau đó, Codex áp dụng lựa chọn này thông qua cơ chế cấu hình gốc của Astra trước khi tiếp tục công việc.
Astra có thể thay đổi mức độ suy luận mà không làm mất tiền tố prompt ban đầu được bộ nhớ đệm sử dụng. Vì vậy, Ares vẫn giữ nguyên mô hình, cuộc hội thoại và kết nối trực tiếp với OpenAI thay vì chèn mình vào đường truyền mạng của Astra. Các quy tắc thông thường về điều kiện đủ và thời gian lưu của bộ nhớ đệm prompt vẫn được áp dụng.
Tính năng chính
- Suy luận thích ứng: Jev chọn mức độ cần thiết cho phần tiếp theo của tác vụ thay vì dựa vào một thiết lập cố định.
- Thời hạn nhiều lần sinh: Một quyết định có thể duy trì trong 1, 2, 5 hoặc 10 lần sinh, giúp giảm các yêu cầu không cần thiết đến bộ đánh giá.
- Áp dụng bằng Codex gốc: CLI đã được vá áp dụng các thiết lập của Astra giữa các lần sinh và xác nhận việc áp dụng thành công.
- Ngữ cảnh bộ đánh giá có giới hạn: Jev nhận tác vụ, tiến độ công khai, các bản tóm tắt suy luận và một số giới hạn kết quả công cụ gần đây.
- Kết nối trực tiếp với Astra: Codex tiếp tục giao tiếp trực tiếp với OpenAI. Jev sử dụng một nhà cung cấp được cấu hình riêng.
- Cài đặt biệt lập: Astra-Ares sử dụng hồ sơ Codex riêng và không thay thế lệnh
codexhiện có hoặc ứng dụng Codex trên máy tính. - Xử lý lỗi minh bạch: Ares không âm thầm chuyển đổi nhà cung cấp, thay thế mô hình hoặc tự tạo ra quyết định về mức độ xử lý.
Trước khi cài đặt
Bản dựng đầu tiên cần vài phút và khoảng 10 GB dung lượng trống. Hãy cài đặt các điều kiện tiên quyết sau:
- Node.js 22 trở lên
- npm
- Git
- curl
- tar
- Bộ công cụ dựng C/C++ gốc
- Rust thông qua rustup
Quá trình thiết lập cũng cài đặt bộ công cụ Rust được ghim phiên bản bởi mã nguồn Codex thượng nguồn. Trên macOS, hãy cài đặt Xcode Command Line Tools nếu chưa có:
xcode-select --installmacOS trên Apple Silicon đã được dựng và kiểm thử cục bộ. Các đường dẫn dựng cho macOS Intel và Linux đã có, nhưng chưa được kiểm thử nghiệm thu. Windows không được hỗ trợ vì tích hợp này dựa vào Unix socket.
Bước 1: Dựng và cài đặt Astra-Ares
Sao chép kho mã nguồn, cài đặt các phụ thuộc Node.js, chạy thiết lập tự động và tạo các liên kết lệnh toàn cục:
git clone https://github.com/miuuyy/Astra-Ares.git
cd Astra-Ares
npm ci
npm run setup
npm linkQuá trình thiết lập tải xuống một phiên bản Codex được ghim, áp dụng bản vá đi kèm và tự động dựng Codex. Bạn không cần chỉnh sửa Codex thủ công.
Lệnh npm link cung cấp hai lệnh trong terminal: astra-ares và ares. Bản xem trước được phân phối từ mã nguồn; hiện chưa có gói npm được phát hành hoặc bản tải xuống Ares dựng sẵn. Hãy xem tài liệu cài đặt của dự án để biết các cập nhật, cách dùng lại bản dựng, gỡ bỏ và vận hành mà không cần liên kết toàn cục.
Bước 2: Cấu hình nhà cung cấp Jev
Các bản cài đặt mới sử dụng OpenRouter làm nhà cung cấp Jev mặc định. Hãy tạo khóa API OpenRouter, đảm bảo tài khoản có tín dụng đã nạp và bắt đầu lời nhắc cấu hình:
ares configureDán khóa vào lời nhắc ẩn. Astra-Ares lưu khóa trong cấu hình người dùng riêng tư bên ngoài kho mã nguồn đã sao chép.
Thông tin xác thực Jev tách biệt với tài khoản Codex dùng để truy cập Astra. Nếu CLI đã được vá yêu cầu xác thực, hãy đăng nhập bằng:
astra-ares loginCác nhà cung cấp Jev khác và tùy chọn biến môi trường được trình bày trong hướng dẫn cấu hình của dự án.
Bước 3: Khởi chạy Codex với suy luận thích ứng
Khởi động terminal Codex đã được vá:
astra-aresMở bộ chọn /model gốc và chọn Astra-Jev. Các hồ sơ Ares mới mặc định chọn mục này. Sau đó, bạn có thể gửi một tác vụ và sử dụng quy trình Codex thông thường, bao gồm công cụ, phê duyệt, hủy và lịch sử.
Khi Jev thay đổi mức độ xử lý và Codex xác nhận, bản ghi hội thoại sẽ hiển thị thông báo tương tự:
Jev LOW → HIGH ✓ APPLIED
Step 3 · next 2 generation(s) · 321 msAPPLIED không chỉ là thông báo đề xuất: điều đó có nghĩa Codex đã xác nhận các thiết lập được áp dụng cho lần sinh tiếp theo. Thông báo xuất hiện sau khi áp dụng bằng cơ chế gốc.
Ví dụ sử dụng cơ bản
Mở một kho mã nguồn cụ thể
Sử dụng -C để bắt đầu làm việc trong một thư mục dự án cụ thể:
astra-ares -C /path/to/projectTiếp tục phiên Ares gần nhất
astra-ares resume --lastAres sử dụng một hồ sơ Codex riêng, vì vậy lệnh này tiếp tục phiên gần nhất từ hồ sơ đó thay vì một phiên thuộc bản cài đặt Codex thông thường.
Thay thế Khóa Jev
ares configureTắt Jev cho một Phiên
Mở /model và chọn Astra thông thường hoặc một mô hình khác. Codex sẽ tiếp tục hoạt động mà không định tuyến qua Jev.
Cách thức Hoạt động của Lựa chọn Thích ứng
- Codex đạt đến một điểm kiểm tra đủ điều kiện trước khi tạo văn bản bằng mô hình.
- Ares chuẩn bị ngữ cảnh giới hạn, bao gồm tác vụ, tiến độ công khai và hoạt động công cụ gần đây.
- Jev chọn mức độ nỗ lực suy luận và một thời hạn gồm 1, 2, 5 hoặc 10 lần tạo văn bản.
- Codex áp dụng các thiết lập đã chọn bằng cơ chế cấu hình gốc của Astra.
- Astra tạo phản hồi và có thể gọi một hoặc nhiều công cụ.
- Ares yêu cầu quyết định khác khi thời hạn kết thúc hoặc một sự kiện làm quyết định hiện tại mất hiệu lực.
Một bước có nghĩa là một lần tạo văn bản bằng mô hình, không phải một lần gọi công cụ. Một lần tạo văn bản có thể tạo ra nhiều lần gọi công cụ. Các quyết định được đưa ra trước lần tạo văn bản tiếp theo, sau khi kết quả công cụ hiện có đã được đưa vào cuộc hội thoại.
Jev đánh giá nhu cầu suy luận tiếp theo trong mối liên hệ với mục tiêu của người dùng. Ví dụ, việc đọc một tệp không tự động có nghĩa là cần mức nỗ lực thấp, vì việc diễn giải tệp có thể là phần khó nhất.
Tìm hiểu về Thời hạn
Nếu Jev chọn thời hạn gồm mười lần tạo văn bản, Ares sẽ yêu cầu quyết định ở bước 1 và sau đó lại yêu cầu ở bước 11. Các bước từ 2 đến 10 sử dụng lại lựa chọn đã được chấp nhận mà không gửi thêm yêu cầu Jev.
Thời hạn kết thúc sớm khi có dữ liệu đầu vào mới của người dùng, một công cụ gặp lỗi, mô hình thay đổi hoặc mức độ nỗ lực suy luận được thay đổi thủ công. Khi đó, Jev sẽ được tham vấn tại điểm kiểm tra đủ điều kiện tiếp theo. Lỗi công cụ yêu cầu đánh giá lại; lỗi này không kích hoạt cơ chế tăng cấp được mã hóa cứng.
Ngữ cảnh Jev Nhận được
Jev không nhận toàn bộ ngữ cảnh nội bộ không giới hạn của Astra. Chế độ xem của bộ đánh giá bao gồm:
- Tác vụ ban đầu hoặc hiện tại và các yêu cầu trước đó của người dùng được giữ lại
- Tiến độ, kế hoạch và các bản tóm tắt suy luận đã công khai
- Sáu lần gọi công cụ gần nhất cùng các kết quả tương ứng
- Tối đa 1.000 token cục bộ của văn bản kết quả tổng hợp cho mỗi lần gọi công cụ, sử dụng phương pháp cắt rõ ràng ở phần đầu và cuối
- Một yêu cầu bộ đánh giá hoàn chỉnh được giới hạn ở 28.000 token cục bộ
Suy luận riêng tư hoặc được mã hóa sẽ bị loại trừ. Các yêu cầu bộ đánh giá vượt quá kích thước sẽ dừng một cách rõ ràng thay vì được âm thầm gửi đi. Bộ mã hóa token cục bộ cung cấp ước tính ngân sách và không nhất thiết giống với bộ mã hóa token của Jev. Các giới hạn này chỉ ảnh hưởng đến chế độ xem của Jev; Astra vẫn giữ nguyên cuộc hội thoại gốc của mình.
Ngữ cảnh tác vụ được giới hạn sẽ được gửi đến nhà cung cấp Jev đã cấu hình. Hãy xem lại tài liệu về cấu hình và ghi nhật ký trước khi sử dụng dữ liệu dự án nhạy cảm.
Chẩn đoán và Khắc phục sự cố
Kiểm tra Bản cài đặt Cục bộ
ares doctorLệnh này kiểm tra bản cài đặt và cấu hình cục bộ mà không chủ động thực hiện phép thăm dò nhà cung cấp được mô tả dưới đây.
Kiểm tra Nhà cung cấp Jev
ares doctor --probePhép thăm dò thực hiện một yêu cầu Jev nhỏ có tính phí. Hãy sử dụng lệnh này khi các bước kiểm tra cục bộ đều đạt nhưng các quyết định của bộ đánh giá vẫn thất bại.
Kiểm tra Nhật ký Quyết định
Theo mặc định, nhật ký chạy được lưu tại:
~/.local/share/astra-ares/runs/<run>/decisions.jsonlCác bản ghi này có thể giúp xác định những yêu cầu nhà cung cấp thất bại, thời điểm đưa ra quyết định và các thiết lập đã áp dụng.
Diễn giải Đúng HTTP 429
Phản hồi HTTP 429 cho biết yêu cầu bị từ chối do giới hạn tốc độ hoặc năng lực. Chỉ riêng phản hồi này không chứng minh rằng ngữ cảnh bộ đánh giá quá lớn. Các lỗi HTTP tạm thời được thử lại không quá ba lần với cùng một nhà cung cấp trong thời hạn 30 giây.
Nếu tất cả các lần thử đều thất bại, Ares sẽ hiển thị việc dừng lượt hiện tại. Ares không âm thầm chuyển sang nhà cung cấp khác, chọn mô hình khác hoặc tự tạo mức độ nỗ lực. Xem hướng dẫn khắc phục sự cố của kho lưu trữ để biết thêm các bước kiểm tra.
Mẹo Nâng cao
Cân bằng Khả năng Phản hồi và Chi phí Bộ đánh giá
Mỗi quyết định Jev mới đều thêm một lượt trao đổi với nhà cung cấp và quá trình xử lý điểm kiểm tra cục bộ. Khi một thời hạn đang hoạt động, các điểm kiểm tra được xử lý cục bộ mà không cần yêu cầu Jev khác. Vì vậy, thời hạn dài hơn có thể giảm tần suất yêu cầu, mặc dù Jev, không phải người dùng, chọn khoảng thời gian được mô tả trong phần triển khai tham chiếu.
Sử dụng Xác nhận Hiển thị khi Kiểm tra Tích hợp
Khi kiểm tra hành vi thích ứng, hãy tìm trạng thái APPLIED thay vì mặc định cho rằng đề xuất của Jev đã đến được Astra. Xác nhận chỉ được phát ra sau khi Codex áp dụng thiết lập gốc.
Ghi nhớ các Giới hạn Đo lường Hiện tại
Dự án bao gồm các bài kiểm thử fixture gốc cho việc áp dụng thiết lập và bảo toàn tiền tố lời nhắc. Tuy nhiên, tỷ lệ truy cập bộ nhớ đệm của khối lượng công việc và mức tiết kiệm so với mức độ nỗ lực suy luận cố định vẫn chưa được đo lường. Hãy xem các tuyên bố về hiệu quả là mục tiêu thiết kế cần được kiểm chứng trên khối lượng công việc của riêng bạn.
Chạy Bộ Kiểm thử Phát triển
Cộng tác viên có thể cài đặt các phần phụ thuộc và chạy các bài kiểm thử tiêu chuẩn bằng:
npm ci
npm testCác fixture tích hợp gốc cũng yêu cầu Bun và tệp nhị phân Codex đã được vá:
JEV_TEST_BINARY="$HOME/.local/share/astra-ares/bin/codex" npm run test:nativeCác bài kiểm thử fixture cục bộ không yêu cầu khóa API. Các tổng kiểm tra mã nguồn upstream và phiên bản bản vá được ghim trong patches/upstream.json.
Kết luận
Astra-Ares cho thấy một tác nhân có thể điều chỉnh mức độ nỗ lực suy luận của GPT-6 Astra giữa các thế hệ, đồng thời duy trì cuộc trò chuyện hiện có, kết nối trực tiếp với OpenAI và tiền tố lời nhắc ban đầu. Quy trình thiết lập tự động giúp thí nghiệm trở nên dễ tiếp cận, nhưng đây vẫn là bản xem trước kỹ thuật ban đầu, được xây dựng trên một Codex CLI đã được vá riêng. Hãy sử dụng các công cụ chẩn đoán, kiểm tra nhật ký quyết định và đánh giá hiệu suất trên chính khối lượng công việc của bạn trước khi coi đây là công cụ phát triển sử dụng hằng ngày.