Chạy và khám phá các đánh giá chính sách hiện thân GPT 6 Astra

Dự án này thực hiện gì

Kho lưu trữ này chứa mã đánh giá và báo cáo kỹ thuật song ngữ về việc sử dụng GPT 6 Astra trong điều khiển robot. Báo cáo so sánh GPT 6 Astra Direct với một chính sách lai, trong đó xem xét và tùy chọn hiệu chỉnh các hành động của π₀.₅ trên mười tác vụ RoboDojo, với năm trường hợp tương ứng cho mỗi tác vụ.

Chính sách lai đạt Score trung bình 62.60 và 48% thành công. Các hiệu chỉnh của GPT được sử dụng trong 14.4% số bước điều khiển đã thực thi. GPT 6 Astra Direct đạt tỷ lệ thành công 26% và Score trung bình 37.81 trên 48 lượt chạy có sẵn điểm gốc. Cả hai tỷ lệ thành công đều sử dụng toàn bộ 50 trường hợp đã chọn. Các so sánh với mô hình chính thức là các tham chiếu công khai được tính lại trọng số, không phải các lần chạy lại với cùng seed.

Bản phát hành là một ảnh chụp mã nguồn không chứa lịch sử. Bản này không bao gồm thông tin xác thực, chú thích riêng tư, phiên làm việc thô của mô hình, nhật ký vận hành gốc, tài sản trình mô phỏng hoặc checkpoint mô hình. Trình mô phỏng và các môi trường chính sách bắt buộc phải được lấy riêng từ các dự án upstream tương ứng.

Tìm hiểu bố cục kho lưu trữ

• hybrid_rollout/robodojo/ chứa phần tích hợp trình mô phỏng, máy chủ chính sách, bộ điều khiển, kỹ năng và bộ lập lịch.
• hybrid_rollout/robolab/ chứa phần tích hợp RoboLab riêng biệt.
• hybrid_rollout/report_site/ chứa mã nguồn báo cáo song ngữ, thư viện nội dung và các công cụ đóng gói.
• report_web/ chứa báo cáo dựng sẵn và 21 đoạn bài viết.
• public_results/ chứa siêu dữ liệu trường hợp, điểm số, seed và thông tin nguồn gốc được chọn.
• licenses/ chứa các thông báo của bên thứ ba.

Website production bao gồm thư viện video đầy đủ và được duy trì trong một kho lưu trữ riêng. Website RoboDojo cung cấp 100 video đánh giá và 43 đoạn video trong thư viện. Thư viện RoboLab cung cấp 150 bản ghi bao quát ba phương pháp, mười tác vụ và năm lần thử.

Xem trước báo cáo song ngữ

Cách nhanh nhất để khám phá bản phát hành là khởi động bản xem trước báo cáo cục bộ từ thư mục gốc của kho lưu trữ. Máy chủ xem trước hỗ trợ các phạm vi byte video, vì vậy báo cáo có thể phát hiệu quả các đoạn video đi kèm.

python3 -m hybrid_rollout.report_site.preview --directory report_web --port 8768

Mở http://127.0.0.1:8768/ trong trình duyệt. Tiếng Anh được chọn theo mặc định. Sử dụng nút ngôn ngữ hoặc thêm ?lang=zh để chuyển sang tiếng Trung.

Thư mục tĩnh report_web/ cũng có thể được lưu trữ bằng một máy chủ HTTP tiêu chuẩn. GitHub Pages công khai chỉ phân phối báo cáo tĩnh đã biên dịch và các phương tiện được chọn; dịch vụ này không cung cấp API chú thích hoặc các dịch vụ rollout.

Dựng lại frontend của báo cáo

Để dựng lại báo cáo, hãy sử dụng Node.js tương thích với phiên bản Vite đã khóa. Node 24 được sử dụng cho bản phát hành này. Chuyển vào ứng dụng frontend, cài đặt các dependency đã khóa và chạy bản dựng production.

cd hybrid_rollout/report_site/app
npm ci --ignore-scripts --no-audit --no-fund
npm run build

Bản dựng xác minh runtime dùng chung được bảo toàn và tạo ra dist/index.html độc lập. Sao chép tệp đó vào report_web/index.html, đồng thời giữ data.json, scores.csv, citation.bib, giấy phép và các tệp media bên cạnh.

Ảnh chụp môi trường biên soạn công khai đã được đưa vào, vì vậy không cần kho thử nghiệm riêng tư để dựng lại frontend này. Không chạy build.py chỉ để dựng lại frontend. Tiện ích trích xuất bằng chứng ngoại tuyến đó yêu cầu các kho lưu trữ quỹ đạo gốc không công khai.

Chuẩn bị một lần đánh giá mới

Các lần đánh giá mới yêu cầu những môi trường được cài đặt bên ngoài. Kho lưu trữ này không phải là một bản phân phối trình mô phỏng độc lập.

1. Cài đặt và cấu hình Isaac Sim 5.1, mã nguồn và tài sản RoboDojo tương ứng, cùng checkpoint π₀.₅ OpenPI/JAX. RoboLab có các yêu cầu môi trường và thiết lập riêng. Hãy lấy tất cả các thành phần này từ những dự án upstream tương ứng theo các điều khoản của họ.
2. Xem lại hybrid_rollout/robodojo/SOURCE.json để xác định các bản sửa đổi upstream đã được ghi nhận và danh tính checkpoint.
3. Chuẩn bị riêng môi trường công cụ, môi trường trình mô phỏng, môi trường OpenPI/JAX, checkpoint và Codex CLI. Giữ môi trường trình mô phỏng và chính sách tách biệt với các công cụ nhẹ của kho lưu trữ.
4. Sao chép hoặc xem lại hybrid_rollout/robodojo/cluster.env.example. Thiết lập đường dẫn, container image, ID người dùng và nhóm, đường dẫn tệp thông tin xác thực và danh tính trường hợp cụ thể. Các đường dẫn trong bản xuất công khai chỉ là ví dụ chung, không phải thông tin xác thực cụm có thể chạy.
5. Sử dụng hybrid_rollout.robodojo.codex_backend.profiles để quản lý xác thực rollout biệt lập. Kiểm tra CLI bằng --help trước khi thực hiện thao tác đăng nhập hoặc thuê.
6. Sử dụng public_results/evaluation_cases.json để đồng bộ tác vụ, cảnh và seed giữa các chính sách. Mỗi trường hợp chứa một kết quả hybrid và một kết quả Direct.

Mô hình được cố định ở gpt-6-astra với mức suy luận xhigh. Bạn cần tài khoản được cấp quyền hoặc quyền truy cập gateway của riêng mình; việc thực thi chính sách hoặc mô hình có thể phát sinh chi phí.

Chọn phương pháp đánh giá

Đặt ROLLOUT_EVALUATION_METHOD để chọn chế độ chính sách:

ROLLOUT_EVALUATION_METHOD=pi05_plus_gpt

Sử dụng pi05_plus_gpt cho chính sách lai, cho phép GPT xem xét và tùy chọn hiệu chỉnh các hành động của π₀.₅. Để chọn chính sách Direct, sử dụng:

ROLLOUT_EVALUATION_METHOD=gpt_only

gpt_only là mã định danh CLI nội bộ cho GPT 6 Astra Direct. Mã này không khởi chạy π₀.₅.

Điểm vào container là hybrid_rollout/robodojo/cluster_entrypoint.sh. Mỗi container chạy một trường hợp cụ thể, lưu các tạo tác và tự dọn dẹp các thành phần của mình. Tệp acp.py tùy chọn là bộ điều hợp gửi riêng cho SenseCore. Các trình trợ giúp di chuyển chiến dịch dành riêng cho từng cluster yêu cầu kế hoạch cục bộ theo môi trường triển khai và không phải là quy trình khởi chạy công khai bằng một lệnh duy nhất.

Chạy các bài kiểm thử ngoại tuyến có thể tái lập

Các bài kiểm thử ngoại tuyến yêu cầu các phần phụ thuộc của tools, trong khi các phần phụ thuộc của simulator và OpenPI phải được cài đặt riêng trong các môi trường tương ứng. Cài đặt requirements-tools.txt trong một môi trường ảo chuyên dụng, sau đó chạy các bài kiểm thử báo cáo và chẩn đoán.

python3 -m unittest hybrid_rollout.report_site.test_i18n hybrid_rollout.report_site.test_editorial_revision -v
python3 -m pytest hybrid_rollout/robodojo/test_proposal_diagnostics.py hybrid_rollout/robodojo/test_prompt_context.py hybrid_rollout/robodojo/test_network_continue.py

Các bài kiểm thử này không thực hiện mô phỏng hoặc gọi mô hình. Những bài kiểm thử phụ thuộc vào bộ nhớ dùng chung ban đầu, simulator độc quyền hoặc các fixture vận hành lịch sử không thể được tái lập chỉ từ snapshot công khai này. Bản phát hành chưa chạy lại các thí nghiệm mô hình trả phí hoặc GPU.

Hướng dẫn bảo mật và triển khai

Các URL gateway trong codex_backend/profiles.py và codex_backend/config.toml sử dụng các giá trị giữ chỗ .invalid dành riêng. Hãy cấu hình rõ ràng endpoint được cấp quyền của riêng bạn trong profile đã chọn và tệp cấu hình tương ứng. Đặt ROLLOUT_GATEWAY_NO_PROXY khi mạng của bạn yêu cầu.

Không bao giờ commit khóa API hoặc auth.json, và không sửa thư mục Codex tương tác của bạn. Lưu thông tin xác thực bên ngoài repository với quyền truy cập bị hạn chế. Các mã định danh profile lịch sử chỉ tồn tại để tương thích; bản phát hành này không cấu hình công ty hoặc dịch vụ relay nào.

Giữ các công cụ chú thích và đánh giá trong mạng cục bộ đáng tin cậy. Giữ liên kết loopback mặc định hoặc sử dụng reverse proxy có xác thực trước khi cung cấp dịch vụ cho mạng LAN. Giữ việc thực thi công cụ Codex và RPC của simulator trong một môi trường biệt lập, đáng tin cậy, đồng thời không cung cấp các chương trình không đáng tin cậy, dữ liệu RPC được tuần tự hóa hoặc kho lưu trữ trajectory.

Cách sử dụng nâng cao và tài liệu tham khảo nghiên cứu

Sử dụng siêu dữ liệu của các trường hợp trong public_results/evaluation_cases.json để duy trì sự nhất quán về tác vụ, cảnh và seed khi so sánh các policy. Manifest của gallery ghi lại URL, kích thước và SHA-256 của từng video, có thể giúp xác minh media đã tải xuống.

Để xem báo cáo, gallery và bộ sưu tập video đầy đủ, hãy truy cập báo cáo và gallery video. Mã nguồn website production có tại repository của website. Gallery RoboLab cung cấp các bản ghi RoboLab riêng biệt.

Mã do dự án sở hữu được cấp phép MIT. Các thành phần, phông chữ, tài sản benchmark và logo của bên thứ ba vẫn tuân theo điều khoản riêng; hãy xem THIRD_PARTY_NOTICES.md. Trọng số mô hình và tài sản simulator không được phân phối lại.

Kết luận

Repository này phù hợp nhất để sử dụng như một bản phát hành mã nguồn đánh giá và báo cáo: xem trước báo cáo đi kèm, dựng lại frontend tĩnh, chạy các bài kiểm thử ngoại tuyến hiện có và sử dụng các ranh giới môi trường được tài liệu hóa để chuẩn bị một lần chạy RoboDojo hoặc RoboLab mới. Trước khi khởi chạy bất kỳ workload mô hình hoặc simulator nào, hãy nhận các phần phụ thuộc upstream bắt buộc, cấu hình các dịch vụ được cấp quyền, đối chiếu các trường hợp với siêu dữ liệu công khai và bảo vệ thông tin xác thực cùng các giao diện điều khiển.