FlashProve Đang hoạt động

FlashProve là hệ thống suy luận có thể xác minh do Anthropic phát hành mã nguồn mở, sử dụng bằng chứng không tiết lộ thông tin để nhà cung cấp dịch vụ mô hình chứng minh một câu trả lời cụ thể thực sự được tạo bởi mô hình được chỉ định mà không cần công khai trọng số. FlashProve đã được thử nghiệm thực tế trên Llama 4 Maverick với 400B tham số: một H100 đạt khoảng 110 tokens/s, mỗi bằng chứng cho 1024 token có dung lượng khoảng 19MB, xác minh bằng CPU mất khoảng 17 giây; thời gian GPU cần để tạo bằng chứng cao hơn khoảng 70—95 lần so với suy luận thông thường. Đây vẫn là nguyên mẫu nghiên cứu, chỉ chứng minh nguồn gốc chứ không đảm bảo nội dung chính xác.

Xác thực danh tính: chứng minh một câu trả lời cụ thể thực sự được tạo bởi mô hình được chỉ định mà không công khai trọng số mô hình.
Ngăn tráo đổi mô hình: ngăn nhà cung cấp dịch vụ hoặc nền tảng định tuyến bên thứ ba thay thế mô hình giá cao bằng mô hình rẻ hơn.
Ngăn chỉnh sửa đầu ra: giúp người dùng phát hiện bất thường khi máy chủ suy luận bị tấn công hoặc luồng Token bị bên trung gian sửa đổi.
Tuân thủ và kiểm toán: cung cấp chứng từ suy luận có thể kiểm tra bằng máy cho cơ quan quản lý, đơn vị đánh giá độc lập và đội ngũ bảo mật nội bộ.
Chứng minh nguồn gốc: có thể dùng để chứng minh hoạt động kiểm toán mã, phân tích kinh doanh hoặc đánh giá bảo mật thực sự được thực hiện bởi một mô hình cụ thể.

Theo dõi WeChat và trả lời “开源” để tham gia nhóm trao đổi dự án AI mã nguồn mở
Khung cam kết và xác minh: FlashProve chia quy trình thành hai giai đoạn ngoại tuyến và trực tuyến. Trước tiên, nhà cung cấp dịch vụ tạo cam kết mật mã cho trọng số của mô hình được chỉ định, công khai dấu vân tay mô hình nhưng không tiết lộ trọng số; mỗi yêu cầu đi kèm bằng chứng zkSNARK, để người dùng chỉ cần dựa vào cam kết, đầu vào và câu trả lời là có thể xác minh đầu ra thực sự đến từ mô hình đó.
Bằng chứng succinct không tiết lộ thông tin: hệ thống sử dụng lập luận ngắn gọn không tiết lộ thông tin, cho phép bên xác minh kiểm tra bằng chứng khoảng 19MB trong vài giây bằng CPU mà không cần chạy lại mô hình 400B; bằng chứng không tiết lộ trọng số, giá trị kích hoạt trung gian hoặc lựa chọn chuyên gia, chỉ xác nhận phép tính được thực hiện theo mô hình đã cam kết.
Tối ưu hóa nhận biết kích hoạt MoE: đối với các mô hình MoE như Llama 4 Maverick, chi phí chứng minh chỉ tăng theo khoảng 17B tham số thực tế được kích hoạt, thay vì toàn bộ 400B tham số, nhờ đó đạt thông lượng chứng minh khoảng 110 tokens/s trên một H100.
Chứng minh hàng loạt sau khi thực hiện: bằng chứng được tạo thống nhất sau khi suy luận hoàn tất, sử dụng văn bản đã tạo làm prefill để đọc song song và chỉ mở cam kết trọng số một lần cho mỗi lô, giảm tính toán lặp lại; đổi lại, hệ thống không thể tạo bằng chứng nội tuyến theo thời gian thực cho từng Token.
Thực thi streaming trên một GPU: trọng số mô hình được chia theo tầng, lưu trong bộ nhớ máy chủ và truyền streaming vào một H100 80GB duy nhất, tạo bằng chứng theo từng tầng, nhờ đó các MoE quy mô rất lớn có thể hoạt động mà không cần tải toàn bộ vào bộ nhớ GPU.

Sao chép kho mã: tải mã từ https://github.com/anthropics/FlashProve và thao tác trong thư mục gốc của kho với tư cách người dùng thông thường.
Xây dựng trình xác minh: chạy verifier/build.sh để biên dịch trình xác minh C++; dấu hiệu thành công là đầu ra THE VERIFIER IS BUILT và mã thoát bằng 0.
Xác minh bằng chứng mẫu: thực thi bin/cp_verify cùng các tham số trong examples/accepted-proof để kiểm tra mẫu tích hợp; dòng cuối là YES nghĩa là trình xác minh hoạt động bình thường.
Tự kiểm tra bằng CPU: chạy blocks/first_look.sh để kiểm thử thư viện chứng minh, xác nhận bằng chứng hợp lệ được chấp nhận và bằng chứng giả mạo bị từ chối.
Quy trình đầy đủ trên GPU: trên máy có một H100 80GB đang rảnh và CUDA 13.2, chạy examples/quickstart-gpu.sh để tự động gửi, chứng minh và xác minh một yêu cầu mô hình nhỏ.
Xác minh mô hình thực tế: sau khi nhận ID cam kết, yêu cầu, đầu ra và bằng chứng từ nhà cung cấp dịch vụ, dùng bin/cp_verify CONFIG PUBLIC_KEY REQUEST TOKEN PROOF -id COMMITMENT_ID để kiểm tra; lưu ý ID cam kết phải đến từ nguồn đáng tin cậy.
Đọc kết quả: mã thoát 0 và dòng cuối là YES nghĩa là được chấp nhận; 1 nghĩa là bị từ chối; 5 nghĩa là chưa có kết luận và có thể thử lại một lần; các mã khác là lỗi gọi hoặc lỗi tệp.

Khả năng xác minh mà không tiết lộ trọng số: trong khi vẫn giữ bí mật trọng số mô hình, bằng chứng mật mã xác nhận câu trả lời thực sự đến từ mô hình được chỉ định.
Chống tráo đổi và chỉnh sửa: việc nhà cung cấp dịch vụ đổi sang mô hình rẻ hơn, tầng định tuyến âm thầm thay thế mô hình hoặc kẻ tấn công sửa đầu ra đều sẽ bị phát hiện khi xác minh.
Chi phí xác minh cực thấp: bên xác minh chỉ cần CPU thông thường và bằng chứng khoảng 19MB, hoàn tất trong vài chục giây mà không cần GPU hoặc chạy lại mô hình.
Đột phá về quy mô: lần đầu đạt tốc độ chứng minh khoảng 110 tokens/s trên Llama 4 Maverick với 400B tham số, cao hơn các hệ thống zkML trước đây nhiều bậc độ lớn.
Tối ưu hóa chuyên biệt cho MoE: chi phí chứng minh chỉ phụ thuộc vào khoảng 17B tham số thực tế được kích hoạt ở mỗi Token.
Đặc tính bảo mật được hình thức hóa: ba thuộc tính chính gồm tính toàn vẹn, độ tin cậy và không tiết lộ thông tin đã được chứng minh bằng máy trong Lean 4.

Trang web dự án: https://www.anthropic.com/research/provable-inference
Kho GitHub: https://github.com/anthropics/FlashProve
Bài nghiên cứu kỹ thuật: https://assets.claude.com/8e1d181a83015078581c92d896757041713f0160.pdf

Xác minh API trung gian và định tuyến mô hình bên thứ ba: sau khi trả phí để chỉ định mô hình hiệu năng cao, người dùng có thể dùng bằng chứng để xác nhận bên trung gian không âm thầm thay thế bằng mô hình rẻ hơn.
Đánh giá mô hình độc lập: tổ chức đánh giá có thể xác nhận dịch vụ được đánh giá thực sự triển khai mô hình cần đánh giá, tránh tình trạng “đánh giá A nhưng đưa B lên vận hành”.
Chống chỉnh sửa máy chủ suy luận: doanh nghiệp có thể yêu cầu máy chủ đính kèm bằng chứng với phản hồi, để kẻ tấn công hoặc mô hình vượt quyền không thể giả mạo đầu ra từ trọng số được chỉ định.
Tuân thủ quy định: cơ quan quản lý có thể yêu cầu nhà cung cấp dịch vụ định kỳ gửi bằng chứng suy luận, xác minh phần cứng thực sự được dùng để suy luận mô hình đã phê duyệt thay vì chuyển sang huấn luyện hoặc né quy trình phê duyệt.
Bảo chứng cho các tuyên bố giá trị cao từ bên thứ ba: nhà phát triển có thể chứng minh mã đã thực sự được mô hình bảo mật tiên tiến quét, hoặc doanh nghiệp có thể chứng minh phương án kinh doanh đã được mô hình chỉ định xem xét, trong khi bên đối tác không cần tiếp cận trọng số mô hình vẫn có thể xác minh.