FlashProve 運営中

FlashProveはAnthropicがオープンソース化した検証可能推論システムです。ゼロ知識証明により、モデル提供者は重みを秘匿したまま、特定のモデルが実際に回答を生成したことを証明できます。FlashProveは400BパラメータのLlama 4 Maverickで実測され、単一のH100で約110 tokens/s、1024トークンごとの証明サイズは約19MB、CPUでの検証は約17秒でした。証明生成に必要なGPU時間は通常の推論の約70—95倍で、現在も研究用プロトタイプの段階です。証明できるのは出所であり、内容の正確性は保証しません。

本人性の検証：モデルの重みを公開せずに、特定のモデルが実際に回答を生成したことを証明します。
モデルのすり替え防止：サービス提供者や第三者のルーティングプラットフォームが、高価なモデルをより安価なモデルに置き換えることを防ぎます。
出力の改ざん防止：推論サーバーが攻撃された場合や、トークンストリームが中間者によって変更された場合に、ユーザーが異常を検出できます。
コンプライアンスと監査：規制当局、独立評価機関、社内セキュリティチームに、機械的に検査可能な推論証明を提供します。
出所の証明：コード監査、ビジネス分析、セキュリティ評価が特定のモデルによって実施されたことの証明に利用できます。

WeChatでフォローし、「オープンソース」と返信すると、AIオープンソースプロジェクトの交流グループに参加できます。
コミットメントと検証の枠組み：FlashProveは処理をオフラインとオンラインの2段階に分けます。サービス提供者はまず、指定モデルの重みから暗号学的コミットメントを生成し、モデルフィンガープリントを公開しますが、重み自体は公開しません。各リクエストにはzkSNARK証明を添付し、ユーザーはコミットメント、入力、回答だけで、出力が実際にそのモデルから生成されたことを検証できます。
ゼロ知識のsuccinct証明：システムはゼロ知識の簡潔な証明を採用しており、検証者は400Bモデルを再実行することなく、CPUで数秒以内に約19MBの証明を検査できます。証明から重み、中間アクティベーション、専門家の選択が漏れることはなく、コミット済みモデルに従って計算されたことだけを確認します。
MoEアクティベーション対応最適化：Llama 4 MaverickのようなMoEモデルでは、証明コストは全400Bパラメータではなく、実際にアクティベートされた約17Bパラメータにのみ比例します。これにより、証明スループットは単一のH100で約110 tokens/sに達します。
バッチ式の事後証明：証明は推論完了後にまとめて生成します。生成済みテキストをprefillとして並列に読み込み、バッチごとに重みのコミットメントを1回だけ開くことで、重複計算を削減します。その代わり、トークン単位のリアルタイムなインライン証明には対応できません。
単一GPUでのストリーミング実行：モデルの重みを層ごとに分割してホストメモリに保存し、単一の80GB H100へストリーミング転送します。各層で証明を生成するため、超大規模MoEモデル全体をGPUメモリに収めずに実行できます。

リポジトリをクローン： https://github.com/anthropics/FlashProve からコードをダウンロードし、通常ユーザーとしてリポジトリのルートディレクトリで操作します。
検証器をビルド：verifier/build.shを実行してC++検証器をコンパイルします。出力にTHE VERIFIER IS BUILTと表示され、終了コードが0なら成功です。
サンプル証明を検証：bin/cp_verifyにexamples/accepted-proof内のパラメータを追加して付属サンプルを検査します。最終行がYESなら、検証器は正常に動作しています。
CPUセルフチェック：blocks/first_look.shを実行して証明ライブラリをテストし、正しい証明が受理され、偽造証明が拒否されることを確認します。
GPUでの完全なフロー：空いている80GB H100を1枚搭載し、CUDA 13.2をインストールしたマシンでexamples/quickstart-gpu.shを実行すると、小規模モデルへのリクエストの送信、証明、検証が自動的に行われます。
実モデルの検証：サービス提供者からコミットメントID、リクエスト、出力、証明を受け取ったら、bin/cp_verify CONFIG PUBLIC_KEY REQUEST TOKEN PROOF -id COMMITMENT_IDで検証します。コミットメントIDは必ず信頼できる経路から取得してください。
結果の判定：終了コードが0で最終行がYESなら受理、1なら拒否、5なら判定未了のため1回再試行できます。それ以外は呼び出しまたはファイルのエラーです。

重みを漏らさない検証可能性：モデルの重みを秘匿したまま、回答が指定モデルから生成されたことを暗号学的に証明できます。
すり替えと改ざんの防止：サービス提供者が安価なモデルに変更した場合、ルーティング層が密かに置き換えた場合、攻撃者が出力を変更した場合も、検証時に明らかになります。
極めて低い検証コスト：検証者は一般的なCPUと約19MBの証明だけで、十数秒から数十秒で検証できます。GPUもモデルの再実行も不要です。
規模面での突破：400BパラメータのLlama 4 Maverickで約110 tokens/sの証明速度を初めて実現し、従来のzkMLシステムを数桁上回ります。
MoE向けの最適化：証明コストは、各トークンで実際にアクティベートされる約17Bパラメータの計算にのみ比例します。
安全性の形式化：完全性、信頼性、ゼロ知識という3つの性質がLean 4で機械的に検査可能な形で証明されています。

公式サイト：https://www.anthropic.com/research/provable-inference
GitHubリポジトリ：https://github.com/anthropics/FlashProve
技術論文：https://assets.claude.com/8e1d181a83015078581c92d896757041713f0160.pdf

第三者API中継とモデルルーティングの検証：ユーザーが高性能モデルを指定して料金を支払った後、証明によって中継業者が密かに安価なモデルへ置き換えていないことを確認できます。
独立したモデル評価：評価機関は、評価対象サービスが実際に評価対象モデルを導入していることを確認でき、「評価時はA、運用時はB」という事態を防げます。
推論サーバーの改ざん防止：企業はサーバーにレスポンスへの証明添付を要求でき、攻撃者や権限外のモデルが指定された重みによる出力を偽造することを防ぎます。
規制コンプライアンス：規制当局はサービス提供者に推論証明の定期提出を求め、ハードウェアが承認済みモデルの推論に実際に使われており、トレーニングや承認手続きの迂回に転用されていないことを確認できます。
高価値な第三者声明の裏付け：開発者はコードが最先端の安全性モデルによって実際にスキャンされたことを証明でき、企業はビジネス提案が指定モデルによってレビューされたことを証明できます。相手側はモデルの重みに触れることなく検証できます。