VeriLoop E2 운영 중

VeriLoop E2는 칭화대학교 선전 국제대학원 로봇 연구실이 오픈 소스로 공개한 27B 사후 학습 모델로, Qwen3.8-27B를 기반으로 코드, 수학 및 물리 추론을 지원하며 Apache-2.0 라이선스와 네이티브 262K 컨텍스트를 제공합니다. VeriLoop E2의 핵심 VGR 메커니즘은 “모델 제안”과 “외부 검증/영속화”를 분리합니다. 후보 상태는 보호된 증거 좌표가 악화되지 않고 하나 이상의 항목이 엄격하게 개선될 때만 커밋되며, 그렇지 않으면 롤백됩니다. 모델은 성공을 스스로 증명할 수 없습니다.

오픈 소스 사후 학습 모델: Qwen3.8-27B 기반의 27B 모델로, Apache-2.0 라이선스에 따라 가중치와 토크나이저를 공개하며 네이티브 컨텍스트는 262,144 tokens입니다. vLLM 0.17.0을 사용해 OpenAI 호환 방식으로 서비스할 수 있습니다.
코드 및 에이전트 역량: 저장소 수준 소프트웨어 수정, 터미널/도구 실행 등의 작업을 지원하며, 공개 점수로 SWE-bench Pro 76.2%, Terminal-Bench 2.1 88.8%, DeepSWE v1.1 64.6% 등이 있습니다.
수학 및 과학 추론: 경시 수학과 고난도 과학 질의응답을 대상으로 하며, AIME 2026 98.3%, ArXivMath 100%, GPQA Diamond 93.9%, Apex 2025 89.6%를 보고했습니다.
증거 폐쇄형 과학 시연: 리만 ζ 영점 비율 67.350003708785593%에 대한 엄밀한 유한 차원 인증서와 점근 중력자 단층촬영 T1–T9 프레임워크 및 6/6 통과 실행 가능 인증서 스위트를 공개했습니다.
감사 가능한 엔지니어링 계약: 14개의 Golden Rules를 공개해 장기 작업이 제한적이고 테스트 가능하며 추적 가능하도록 제약하고, 성공 조작, 자원 예산의 사후 설정 또는 로컬 규약 덮어쓰기를 명시적으로 금지합니다.
명확한 한계: 프로덕션 버전 VeriLoop Harness, 비공개 오케스트레이션 및 학습 데이터는 포함되지 않습니다. 과학 산출물과 모델 라이선스는 별개이며, 결과를 리만 가설이나 블랙홀 정보 역설이 해결되었다는 의미로 확장 해석할 수 없습니다.

WeChat에서 팔로우한 뒤 “开源”라고 회신하여 AI 오픈 소스 프로젝트交流群에 참여하세요.
VGR의 전체 메커니즘: VeriLoop-Governed Recurrence는 한 번의 작업 해결을 보존된 상태를 중심으로 한 후보 상태 전이로 모델링합니다. 모델은 학습된 proposer로서 후보 잠재 변수 이동 또는 후보 산출물을 생성하고, 고정 decoder가 이를 출력으로 구체화하며, 외부 verifier는 고정된 계약에 따라 보호된 증거 순위를 반환합니다. 후보 순위가 현재 순위를 약하게 지배하고 하나 이상의 좌표가 엄격하게 개선될 때만 원자적으로 커밋하며, 그렇지 않으면 현재 bundle 전체를 보존하고 거부된 이동만 탐색 메모리에 기록합니다.
보호된 부분 순서와 원자적 커밋: 검증기 계약은 순서가 있는 의무 목록 O=(o1​,…,om​)과 순위 벡터 r∈N0m​를 정의하며, 좌표가 작을수록 남은 위반이 적음을 의미합니다. 커밋 술어 χt​=1{rt′​≺P​rt​}는 각 좌표가 악화되지 않고 최소 하나의 좌표가 엄격히 개선될 것을 요구합니다. 따라서 집계 점수의 향상이 단일 지점의 회귀를 가릴 수 없으며, 비교 불가능하거나 회귀한 후보는 모두 거부됩니다. 커밋 단위는 산출물, 잠재 상태, 검증 결과 및 요약이 결합된 CertifiedBundle입니다. 거부 시 전체 bundle을 원형 그대로 보존하여 롤백과 재생을 보장하며, 정수 포텐셜의 감소로 엄격한 커밋 횟수가 유한함을 도출할 수 있습니다.
증거 피드백과 거부 탐색: 각 시도 후 증거 컴파일러 Γ는 현재 검증 대상과 후보 검증 결과를 교체하기 전에 “현재 결과-후보 결과-커밋 결정”으로부터 순위 합계와 압축값, 개선/악화/동률 비율, 커밋 및 영순위 지시자 등 유계 모델 가시 특성을 계산합니다. 이는 다음 제안을 조건화하는 데만 사용되며 커밋 권한은 없습니다. 거부된 이동은 탐색 메모리 Et​에 들어가 이후 검색에 영향을 줄 수 있지만 보호된 상태를 덮어쓸 수는 없습니다. 이를 통해 실패 궤적은 “정보는 갖지만 영속화되지는 않게” 됩니다.
사후 학습 감독 인터페이스: VGR 라벨은 작업 수준의 상태 전이에 정의되므로, E2는 1,841,831개의 구조화된 기록으로 사후 학습을 수행합니다. 검증된 엄격한 진행 행동은 교정 감독을 제공하고, 커밋할 수 없는 후보는 대조 음성 예시로 사용되며, 영순위 산출물은 최종 생성 목표가 됩니다. 손실은 쌍별 선호 logistic 항, 행동 NLL 및 생성 NLL을 가중 합산해 구성하며, QLoRA-4/bfloat16, 그래디언트 체크포인트, 능력 영역별 라우팅 및 protected-core replay를 사용합니다. 보고서는 이를 통해 학습이 “제안 분포”를 개선한다고 강조합니다.

모델 받기: Hugging Face에서 tsinghua-sigs-robot-lab/VeriLoop-E2를 내려받고 저장소에 포함된 tokenizer, chat template 및 구성을 유지합니다.
환경 준비: Python 3.12.x, PyTorch 2.10.0 + CUDA 12.9, Transformers 4.57.6, Triton 3.6.0을 설치하고 python -m pip install "vllm==0.17.0"을 실행합니다.
서비스 시작: VLLM_USE_MODELSCOPE=true vllm serve --served-model-name veriloop-e2 --dtype bfloat16 --model-impl vllm --language-model-only --max-model-len 131072 --max-num-seqs 16 --gpu-memory-utilization 0.92 --generation-config vllm --host 127.0.0.1 --port 8001을 실행합니다.
먼저 스모크 테스트 수행: http://127.0.0.1:8001/v1/chat/completions에 temperature: 0인 소규모 요청을 보내고 8001_OK와 같은 응답이 반환되는지 확인한 뒤 실제 트래픽에 연결합니다.
OpenAI 프로토콜로 호출: model="veriloop-e2"를 사용하는 /v1/chat/completions를 호출하며, Python 측에서는 OpenAI(base_url="http://127.0.0.1:8001/v1", api_key="EMPTY")로 클라이언트를 생성합니다.
템플릿을 프로토콜의 일부로 취급: 가중치가 같더라도 도구 사용과 시스템 동작이 달라질 수 있으므로 역할 구분자, 도구 호출 문법, 중지 의미 또는 추론 기록 형식을 교체하지 않습니다.
긴 컨텍스트 자원 계획: 공개된 tokenizer의 네이티브 상한은 262,144 tokens이지만 공개 검증 서비스의 길이는 131,072 tokens입니다. 더 긴 창은 VRAM과 KV cache를 직접 평가해야 합니다.
모델과 Harness 권한 구분: E2는 제안, 추상화, 진단 및 수정만 담당합니다. 증거 수용, 결정론적 검사, 커밋/롤백, 종료 및 영속화는 자체 verifier/Harness로 구현해야 합니다.

생성과 검증의 분리: 모델은 제안, 진단 및 수정만 담당하고 외부 Harness가 수용, 롤백, 종료 및 영속화 권한을 독점하여 모델의 자기 성공 증명을 방지합니다.
회귀 방지 커밋 규칙: VGR은 “보호된 증거 좌표가 악화되지 않고 하나 이상의 항목이 엄격히 개선될 때”만 커밋하므로, 집계값의 향상이 단일 지점의 후퇴를 가릴 수 없습니다.
원자적 롤백과 안전한 실패: 거부된 후보는 전체 CertifiedBundle을 보존하며, 실패 궤적은 재사용할 수 있지만 검증된 상태를 덮어쓰지는 않습니다.
실제 검증에서 오는 감독 신호: 사후 학습은 엄격한 진행, 커밋 불가능한 음성 예시 및 영순위 최종 산출물로 선호/NLL 목표를 구성합니다.
강력한 종합 역량: 27B 규모에서 코드 에이전트, 터미널 실행, 수학 및 과학 추론을 지원하며 SWE-bench Pro 76.2%, AIME 2026 98.3%, GPQA Diamond 93.9% 등의 성능을 보고했습니다.
긴 컨텍스트와 개방형 서비스: 네이티브 262,144 tokens 컨텍스트와 Apache-2.0 가중치를 제공하며, vLLM 0.17.0으로 검증된 OpenAI 호환 서비스 경로를 제공합니다.
단순 점수 보고를 넘어선 감사 가능성: 평가 증거 패키지는 작업별 식별자, 출력, 네이티브 실행/평가 기록, 통과 및 실패 결과와 무결성 메타데이터를 바인딩합니다.

HuggingFace 모델 저장소：https://huggingface.co/tsinghua-sigs-robot-lab/VeriLoop-E2
기술 논문：https://openreview.net/pdf?id=P6FIQILHwX

저장소 수준 코드 수정: SWE 유형 작업에서 패치를 생성하고 회귀를 진단하며 테스트/평가기가 보존 여부를 결정하도록 하는 데 사용됩니다. “수정 사항을 검증할 수 있어야 하는” 유지보수 시나리오에 적합합니다.
터미널 및 도구 에이전트: Terminal-Bench 유형 환경에서 명령을 실행하고 도구를 호출하며 증거에 따라 다음 단계를 진행하고, 통과/실패 증명으로 진행 여부를 제어합니다.
수학 추론 및 경시 문제 해결: AIME/ArXivMath 유형의 고난도 증명을 대상으로 하며, 여러 차례 샘플링한 뒤 외부 판정으로 재현 가능한 해답을 보존하여 단일 답변만 보는 우연성을 줄입니다.
과학 계산 및 이론물리 탐구: 리만 ζ, 양자장론, 점근 중력자 등의 연구에서 구성 아이디어를 제안하고 증명의 공백을 찾는 일을 지원합니다.