VeriLoop E2 Đang hoạt động

VeriLoop E2 là mô hình hậu huấn luyện 27B do Phòng thí nghiệm Robot thuộc Viện Sau đại học Quốc tế Thâm Quyến, Đại học Thanh Hoa, phát hành mã nguồn mở; dựa trên Qwen3.8-27B, hướng đến suy luận về mã, toán học và vật lý, theo giấy phép Apache-2.0, với ngữ cảnh gốc 262K. Cơ chế VGR cốt lõi của VeriLoop E2 tách biệt “đề xuất của mô hình” khỏi “xác minh/lưu trữ bên ngoài”. Trạng thái ứng viên chỉ được gửi khi các tọa độ bằng chứng được bảo vệ không suy giảm và ít nhất một mục được cải thiện nghiêm ngặt; nếu không, trạng thái sẽ được khôi phục, nên mô hình không thể tự chứng minh thành công.

Mô hình hậu huấn luyện mã nguồn mở: mô hình 27B dựa trên Qwen3.8-27B, phát hành trọng số và tokenizer theo Apache-2.0, hỗ trợ ngữ cảnh gốc 262,144 tokens, có thể được phục vụ qua vLLM 0.17.0 theo giao thức tương thích OpenAI.
Năng lực mã và tác tử: bao phủ các tác vụ như sửa phần mềm cấp kho mã, thực thi terminal/công cụ; các điểm số được công bố gồm SWE-bench Pro 76.2%, Terminal-Bench 2.1 88.8%, DeepSWE v1.1 64.6%.
Suy luận toán học và khoa học: hướng đến toán thi đấu và hỏi đáp khoa học độ khó cao, với các kết quả được báo cáo gồm AIME 2026 98.3%, ArXivMath 100%, GPQA Diamond 93.9%, Apex 2025 89.6%.
Trình diễn khoa học khép kín bằng chứng: công bố chứng chỉ hữu hạn chặt chẽ cho tỷ lệ 67.350003708785593% các zero của hàm ζ Riemann, cùng khung chụp cắt lớp graviton tiệm cận T1–T9 và bộ chứng chỉ có thể thực thi đạt 6/6.
Hợp đồng kỹ thuật có thể kiểm toán: công khai 14 Golden Rules, ràng buộc các tác vụ dài hạn phải có giới hạn, có thể kiểm thử và truy vết; nghiêm cấm giả mạo thành công, trì hoãn ngân sách tài nguyên hoặc ghi đè quy ước cục bộ.
Ranh giới rõ ràng: VeriLoop Harness bản production, bộ điều phối riêng tư và dữ liệu huấn luyện không được bao gồm; các hiện vật khoa học và giấy phép mô hình là độc lập, kết quả không thể được ngoại suy thành việc giả thuyết Riemann hoặc nghịch lý thông tin lỗ đen đã được giải quyết.

Theo dõi WeChat và trả lời “开源” để tham gia nhóm trao đổi dự án AI mã nguồn mở
Cơ chế tổng thể của VGR: VeriLoop-Governed Recurrence mô hình hóa việc giải một tác vụ thành quá trình chuyển trạng thái ứng viên xoay quanh trạng thái đã được giữ lại: mô hình đóng vai trò proposer đã học, tạo ra dịch chuyển biến ẩn hoặc hiện vật ứng viên; decoder cố định hiện thực hóa chúng thành đầu ra; verifier bên ngoài trả về hạng bằng chứng được bảo vệ theo hợp đồng cố định. Chỉ khi hạng ứng viên bị hạng hiện tại chi phối yếu và có ít nhất một tọa độ được cải thiện nghiêm ngặt thì mới được gửi nguyên tử; nếu không, toàn bộ bundle hiện tại được giữ nguyên, còn dịch chuyển bị từ chối chỉ được ghi vào bộ nhớ khám phá.
Thứ tự bộ phận được bảo vệ và gửi nguyên tử: hợp đồng verifier định nghĩa danh sách nghĩa vụ có thứ tự O=(o1​,…,om​) và vector hạng r∈N0m​, trong đó tọa độ càng nhỏ thì số vi phạm còn lại càng ít; vị từ gửi χt​=1{rt′​≺P​rt​} yêu cầu từng tọa độ không xấu đi và ít nhất một tọa độ được cải thiện nghiêm ngặt. Vì vậy, điểm tổng hợp tốt hơn không thể che giấu sự suy giảm ở một điểm đơn lẻ; mọi ứng viên không thể so sánh hoặc bị suy giảm đều bị từ chối. Đơn vị gửi là CertifiedBundle gắn kết hiện vật, trạng thái tiềm ẩn, kết quả xác minh và bản tóm tắt. Khi bị từ chối, toàn bộ bundle được giữ nguyên, bảo đảm khả năng khôi phục và tái phát; số lần gửi nghiêm ngặt là hữu hạn nhờ thế nguyên giảm.
Phản hồi bằng chứng và khám phá khi bị từ chối: sau mỗi lần thử, trình biên dịch bằng chứng Γ tính toán các đặc trưng có giới hạn mà mô hình có thể quan sát từ “kết quả hiện tại – kết quả ứng viên – quyết định gửi”, trước khi thay thế đối tượng xác minh hiện tại, chẳng hạn như hạng và dạng nén, tỷ lệ cải thiện/xấu đi/không đổi, chỉ báo gửi và chỉ báo hạng bằng 0; các đặc trưng này chỉ dùng để điều kiện hóa đề xuất tiếp theo, không có quyền gửi. Các dịch chuyển bị từ chối được đưa vào bộ nhớ khám phá Et​, có thể ảnh hưởng đến quá trình tìm kiếm sau đó nhưng không thể ghi đè trạng thái đã được bảo vệ, khiến quỹ đạo thất bại “có thông tin nhưng không bền vững”.
Giao diện giám sát hậu huấn luyện: vì nhãn VGR được định nghĩa trên chuyển trạng thái cấp tác vụ, E2 sử dụng 1,841,831 bản ghi có cấu trúc cho hậu huấn luyện: các hành động tiến triển nghiêm ngặt đã được xác minh cung cấp giám sát sửa lỗi, ứng viên không thể gửi cung cấp mẫu âm đối chiếu, còn hiện vật hạng bằng 0 cung cấp mục tiêu sinh cuối cùng. Hàm mất mát là tổng có trọng số của thành phần logistic ưu tiên theo cặp, NLL hành động và NLL sinh; sử dụng QLoRA-4/bfloat16, checkpoint gradient, định tuyến theo năng lực và protected-core replay. Báo cáo nhấn mạnh rằng cách này cải thiện “phân phối đề xuất” của mô hình.

Lấy mô hình: tải tsinghua-sigs-robot-lab/VeriLoop-E2 từ Hugging Face, giữ nguyên tokenizer, chat template và cấu hình đi kèm kho mã.
Chuẩn bị môi trường: cài Python 3.12.x, PyTorch 2.10.0 + CUDA 12.9, Transformers 4.57.6, Triton 3.6.0, sau đó chạy python -m pip install "vllm==0.17.0".
Khởi động dịch vụ: chạy VLLM_USE_MODELSCOPE=true vllm serve --served-model-name veriloop-e2 --dtype bfloat16 --model-impl vllm --language-model-only --max-model-len 131072 --max-num-seqs 16 --gpu-memory-utilization 0.92 --generation-config vllm --host 127.0.0.1 --port 8001.
Kiểm thử khói trước: gửi một yêu cầu nhỏ với temperature: 0 đến http://127.0.0.1:8001/v1/chat/completions, xác nhận phản hồi như 8001_OK rồi mới đưa vào lưu lượng production.
Gọi theo giao thức OpenAI: sử dụng /v1/chat/completions với model="veriloop-e2"; phía Python tạo client bằng OpenAI(base_url="http://127.0.0.1:8001/v1", api_key="EMPTY").
Coi template là một phần của giao thức: không thay thế dấu phân cách vai trò, cú pháp gọi công cụ, ngữ nghĩa dừng hoặc định dạng lịch sử suy luận; ngay cả khi trọng số không đổi, việc này vẫn có thể làm thay đổi cách sử dụng công cụ và hành vi hệ thống.
Lập kế hoạch tài nguyên cho ngữ cảnh dài: giới hạn gốc của tokenizer được công bố là 262,144 tokens, nhưng dịch vụ xác minh công khai có độ dài 131,072 tokens; với cửa sổ dài hơn, cần tự đánh giá bộ nhớ GPU và KV cache.
Phân biệt quyền của mô hình và Harness: E2 chỉ phụ trách đề xuất, trừu tượng hóa, chẩn đoán và sửa lỗi; việc tiếp nhận bằng chứng, kiểm tra xác định, gửi/khôi phục, kết thúc và lưu trữ phải do verifier/Harness của bạn triển khai.

Tách biệt sinh và xác minh: mô hình chỉ phụ trách đề xuất, chẩn đoán và sửa lỗi; Harness bên ngoài độc quyền quyền tiếp nhận, khôi phục, kết thúc và lưu trữ, tránh việc mô hình tự chứng minh thành công.
Quy tắc gửi chống hồi quy: VGR chỉ gửi khi “các tọa độ bằng chứng được bảo vệ không suy giảm và ít nhất một mục được cải thiện nghiêm ngặt”; tổng thể tốt hơn không thể che giấu sự tụt giảm ở một điểm.
Khôi phục nguyên tử và thất bại an toàn: ứng viên bị từ chối giữ nguyên CertifiedBundle hoàn chỉnh; quỹ đạo thất bại có thể được tái sử dụng nhưng không ghi đè trạng thái đã xác minh.
Tín hiệu giám sát đến từ xác minh thực tế: hậu huấn luyện sử dụng tiến triển nghiêm ngặt, mẫu âm không thể gửi và bản thảo cuối hạng bằng 0 để xây dựng mục tiêu ưu tiên/NLL.
Năng lực tổng hợp mạnh: ở quy mô 27B, mô hình bao phủ tác tử mã, thực thi terminal, suy luận toán học và khoa học; báo cáo các kết quả như SWE-bench Pro 76.2%, AIME 2026 98.3%, GPQA Diamond 93.9%.
Ngữ cảnh dài và dịch vụ mở: ngữ cảnh gốc 262,144 tokens, trọng số theo Apache-2.0, cung cấp đường dẫn dịch vụ tương thích OpenAI đã được xác minh qua vLLM 0.17.0.
Có thể kiểm toán thay vì chỉ báo điểm: gói bằng chứng đánh giá liên kết danh tính, đầu ra, bản ghi thực thi/đánh giá gốc, kết quả đạt và thất bại cùng siêu dữ liệu toàn vẹn theo từng tác vụ.

Kho mô hình HuggingFace：https://huggingface.co/tsinghua-sigs-robot-lab/VeriLoop-E2
Bài báo kỹ thuật：https://openreview.net/pdf?id=P6FIQILHwX

Sửa mã cấp kho: dùng cho các tác vụ kiểu SWE để sinh bản vá, chẩn đoán hồi quy và để bộ kiểm thử/đánh giá quyết định có giữ lại hay không, phù hợp với các tình huống bảo trì trong đó “mọi thay đổi đều phải có thể xác minh”.
Tác tử terminal và công cụ: thực thi lệnh, gọi công cụ trong môi trường kiểu Terminal-Bench, kích hoạt bước tiếp theo dựa trên bằng chứng và dùng chứng nhận đạt/thất bại để kiểm soát việc có tiến hành hay không.
Suy luận toán học và giải bài thi: hướng đến các bài suy luận khó kiểu AIME/ArXivMath; sau nhiều lượt lấy mẫu, dùng phán định bên ngoài để giữ lại lời giải có thể tái lập, giảm sự may rủi khi chỉ xem một đáp án duy nhất.
Tính toán khoa học và khám phá vật lý lý thuyết: hỗ trợ đề xuất cấu trúc và xác định khoảng trống trong chứng minh khi nghiên cứu zero của hàm ζ Riemann, lý thuyết trường lượng tử, graviton tiệm cận và các chủ đề khác.