メインコンテンツへ移動
AIチュートリアル

オンデマンドモデルアラインメント向けFlashAlignのインストールと使用方法

FlashAlignのインストール方法、互換性のあるモデルと推論エンジンの選択方法、確認済み連絡先またはすべてのルーティング済みリクエストでプロファイルを有効にする方法、承認とツール継承の管理方法、モデルの重みを恒久的に変更せずにデプロイメントを確認・カスタマイズする方法を解説します。

約16分で読了
オンデマンドモデルアラインメント向けFlashAlignのインストールと使用方法
FlashAlignの稲妻とワードマークのロゴ

FlashAlignとは？

FlashAlignは、Aevonix Researchが開発したオープンソースシステムで、対応する言語モデルにアライメントプロファイルをオンデマンドで適用できます。プロファイルはリクエストごとに選択することも、FlashAlignを通じてルーティングされるすべてのリクエストで有効にしておくこともできます。プロファイルは、対応するベースウェイトおよび量子化ウェイトに対して、恒久的な変更を加えずに機能します。

付属のV1スタータープロファイルは、拒否応答の削減に重点を置いています。FlashAlignは単体で実行できるほか、HermesやOpenClawと統合したり、カスタムハーネスに接続したりできます。マネージド推論にはLinuxとNVIDIA GPUが必要です。

FlashAlignが変更するのは、設定済みのルートまたはゲートウェイURLを通じて送信されたモデル呼び出しだけです。誰がメッセージを送信でき、どのツールを実行できるかの判断は、引き続きハーネスが担います。

主な機能

  • オンデマンドプロファイル：推論エンジンに読み込み済みのプロファイルを、リクエストごとに切り替えられます。
  • 可逆的な動作：対応するモデルウェイトを恒久的に変更せずにプロファイルを適用できます。
  • 2つの有効化モード：プロファイルの適用対象を確認済み連絡先に限定するか、Always Onモードですべてのルーティング済みリクエストに適用できます。
  • ツール継承制御：確認済み連絡先モードでは、アクティブなプロファイルを委任処理に引き継げるツールを選択できます。
  • ハーネス統合：FlashAlignをHermes、OpenClaw、直接クライアント、またはカスタムハーネスで利用できます。
  • メッセージングアダプター：WhatsAppとRCSのダイレクトメッセージに対応する組み込みアダプターを備え、SMSとTelegramにもオプトインで対応します。
  • セットアップの安全対策：インストーラーがローカルモデルとハーネスを検出し、一致するプロファイルを選択し、有効化を確認し、デプロイメント署名キーを作成して、変更した設定をバックアップします。
  • プロファイル検査：セットアップ前に、プロファイルのモデル固定情報、オペレーター、サイト、ランク、ハッシュを確認できます。

対応モデルとエンジン

FlashAlign 1.1.1には、次のエンジンに対応する5つのスターターモデルプロファイルが用意されています。

  • DeepSeek V4.1 Flash 1017：vLLMまたはTensorFold。
  • GLM 5.3 Full：TensorFold。
  • GLM 5.3 Flash：TensorFoldまたはSGLang。
  • Qwen3.8-27B：TensorFold、vLLM、SGLang、またはllama.cpp。
  • Gemma 4 26B A4B：TensorFold、vLLM、SGLang、またはllama.cpp。

リポジトリには4つのコンパクトプロファイルが含まれています。DeepSeekプロファイルは1.09 GBのネイティブテンソルペイロードを使用します。セットアップ時に公開リリースからダウンロードされ、チェックサムで検証されます。非公開リポジトリやログインは必要ありません。

要件

FlashAlignをインストールする前に、環境が該当する要件を満たしていることを確認してください。

  • NVIDIA GPUを搭載したLinux推論ホスト。
  • セットアップとアダプターにPython 3.10以降。
  • TensorFoldバンドルを使用する場合は、CPUとGPUのアーキテクチャが一致していること。
  • 対応するモデルチェックポイントと一致するプロファイル。
  • FlashAlignエンジン契約を実装したエンジン。
  • OpenAI互換クライアントでは、Chat Completionsのサポート。
  • OpenClawでは、互換性のあるネイティブプラグインAPIと、24.x系列ではNode 24.22.1以降、または26.x系列では26.12.1以降。

ハードウェア要件、固定チェックポイント、エンジンの制限、チャネル、委任サポートについては、プロジェクトの互換性ガイドを参照してください。

FlashAlignをインストールする

1. 対応モデルをダウンロードする

自動セットアップを実行する前に、対応するチェックポイントをダウンロードしてください。リポジトリのモデルダウンロードガイドには、5つのスタータープロファイルと対応形式向けの固定コマンドが記載されています。

2. リポジトリをクローンしてウィザードを実行する

git clone https://github.com/Aevonix/FlashAlign.git
cd FlashAlign
bash ./install.sh --auto

ウィザードはローカルモデルと対応ハーネスを検索し、一致するプロファイルを選択して、エンジンを準備し、デプロイメント署名キーを作成します。セットアップ中に確認済み連絡先またはAlways Onを選択してください。確認済み連絡先を選択した場合は、ツールにプロファイルを継承させるかどうかも決めます。

チャット統合では、設定後に選択したゲートウェイが再起動します。ローカルターミナルでセットアップする場合は、起動に必要なコマンドが表示されます。

3. 有効化を確認する

セットアップでは有効化チェックが実行され、変更した設定ファイルがバックアップされます。エンジンの有効プロファイル応答により、選択したプロファイルがアクティブであることを確認できます。

特定のモデルとエンジンでインストールする

特定のローカルチェックポイントを選択する必要がある場合は、--model-pathを使用します。たとえば、次のコマンドは、vLLMを通じてローカルのQwenチェックポイント用にスタンドアロンエンジンのデプロイメントを作成します。

bash ./install.sh --engine-only --backend vllm --model-path /models/qwen38-27b --yes

モデルとエンジンの互換性マトリックスでサポートされている組み合わせだけを使用してください。新しいモデルまたはプロファイルの読み込みはリクエスト時の切り替えより前に行われ、エンジンの再起動が必要になる場合があります。

既存のエンジンに接続する

互換性のある推論エンジンがすでに実行されている場合は、--autoを指定せずに対話型インストーラーを起動します。

bash ./install.sh

セットアップガイドでは接続と有効化について説明し、エンジン選択ガイドでは対応するモデルとバックエンドの組み合わせについて説明しています。

有効化モードを選択する

確認済み連絡先

認証済み連絡先がデフォルトモードです。選択したプロファイルは、承認済みのチャネル、アカウント、連絡先に関連付けられたメッセージにのみ適用されます。新しい各ターンは、認証済みチャネルを通じて届く必要があります。メッセージ本文に送信者IDを記載しただけでは、アクセス権は付与されません。

このモードでは、アブレーションの対象を承認済みのユーザーとチャネルに限定し、認証されていないユーザーが悪意のあるプロンプトインジェクションによって有効化するリスクを軽減します。ツールの出力と実行は、引き続きハーネスに実装された保護機能と権限に依存します。

常時有効

常時有効は、ツールやサブエージェントのリクエストを含め、FlashAlignを経由するすべてのリクエストに設定済みプロファイルを適用します。選択したモードは再起動後も維持され、ツールごとのアライメント設定を上書きし、呼び出し元を認証済みとして扱うことはありません。設定済みプロファイルを適用できない場合、リクエストは失敗します。

常時有効モードを直接インストールするには、次を実行します。

bash ./install.sh --auto --mode always_on

カスタムハーネスやOpenAI互換クライアントでは、プロジェクトの常時有効ゲートウェイを使用できます。FlashAlignのルートまたはゲートウェイを経由しないリクエストは、FlashAlignの制御対象外であることに注意してください。

連絡先の承認と取り消し

認証済み連絡先モードでは、管理スクリプトを使用して送信者を承認します。サンプルの電話番号とアカウントを、ハーネスが認識できる識別子に置き換えてください。

python3 hermes-owner-mode/manage.py --store ~/.config/owner-mode/approvals.json approve whatsapp +15550000011 --account default

承認は取り消すまで再起動後も維持されます。対応しているメッセージングトランスポートでは、写真、ボイスメッセージ、添付ファイル、転送または引用されたコンテンツ、キューに入れられたメッセージグループでも、ハーネスを通じて送信者の認証状態が維持されます。

連絡先を取り消すには、次を実行します。

python3 hermes-owner-mode/manage.py --store ~/.config/owner-mode/approvals.json revoke whatsapp +15550000011 --account default

取り消しは、委任された処理を含む、それ以降のモデルリクエストに適用されます。常時有効モードが無効になることはありません。

ツールがプロファイルを継承するかどうかを制御する

認証済み連絡先モードでは、インストール時にデフォルトを設定し、個々のツールを名前で上書きできます。例：

python3 hermes-owner-mode/manage.py --store ~/.config/owner-mode/approvals.json tool delegate_task off
python3 hermes-owner-mode/manage.py --store ~/.config/owner-mode/approvals.json tool sessions_spawn on

有効化されたツールは、アクティブなプロファイルを認証済みの子処理に渡せます。無効化されたツールは標準モデルを使用し、子処理にプロファイルを渡しません。ツールの実行を許可するかどうかは、引き続きハーネスが制御します。

常時有効モードでは、これらのツールごとのフラグは無視され、経由するすべてのツールおよびサブエージェントのリクエストにプロファイルが適用されます。FlashAlignはフラグを保持するため、後で認証済み連絡先モードに戻った場合にも利用できます。

再起動せずにモードを切り替える

既存のハーネスデプロイメントは、再起動せずに常時有効へ変更できます。

python3 hermes-owner-mode/manage.py --store ~/.config/owner-mode/approvals.json mode always_on

連絡先ベースのアクセスに戻すには、次を実行します。

python3 hermes-owner-mode/manage.py --store ~/.config/owner-mode/approvals.json mode verified

モードの選択は再起動後も維持されますが、モードを変更しても、すでに無効化されたデプロイメントが再び有効になることはありません。エンジンのみのインストールでは、セットアップウィザードの有効化ステップでモードを変更してください。

高度なセットアップと確認のヒント

変更前に環境を検出する

まず検出モードを実行して、利用可能なモデル、ハーネス、セットアップの選択肢を確認します。

bash ./install.sh --detect

別のディレクトリからプロファイルを読み込む

次のようにして、カスタムプロファイルフォルダーをインストーラーに指定します。

bash ./install.sh --profiles /path/to/profiles

プロファイルは、選択したモデルおよびエンジンに適合している必要があります。プロファイルがチェックポイント間で互換性があると仮定せず、有効化する前にプロファイルのメタデータを確認してください。

プロファイルの内容を確認する

リポジトリのプロファイル確認ガイドを使用して、ローカルプロファイルのモデル固定情報、オペレーター、サイト、ランク、ハッシュを検証します。ダウンロードしたプロファイルや別途保存されたプロファイルをデプロイする前に特に役立ちます。

読み込みと切り替えを計画する

FlashAlignがリクエストごとに切り替えられるのは、エンジンがすでに読み込んでいるプロファイル間だけです。別のモデルやプロファイルの読み込みは別途準備が必要で、エンジンが再起動する場合があります。低遅延ルーティングを行うには、リクエストの提供を開始する前にアプリケーションで必要なプロファイルを読み込んでください。

カスタムクライアントまたはハーネスを統合する

プログラムから直接アクセスするには、ダイレクトエンジンおよびPythonクライアントガイドに従ってください。ハーネス開発者は、カスタムハーネスのドキュメントに記載されたフックを使用できます。その他のメッセージトランスポートでは、文書化されたアダプターインターフェースを実装できます。

セキュリティと運用上の考慮事項

  • プロフィールの利用を既知のチャネル、アカウント、送信者に限定すべき場合は、Verified contactsを優先してください。
  • 設定した経路を通じて送信されるすべてのリクエストにプロフィールを適用する場合にのみ、Always Onを使用してください。
  • メッセージ本文に記載された識別子を、送信者の身元を証明するものとして扱わないでください。
  • ハーネスの認証とツール実行の制御は有効にしてください。FlashAlignがこれらに取って代わることはありません。
  • セットアップ後または設定変更後は、実効プロフィールのレスポンスを確認してください。
  • 本番環境にデプロイする前に、プロジェクトのセキュリティモデル、互換性の制限、検証結果を確認してください。

まとめ

FlashAlignは、モデルの重みを恒久的に変更することなく、対応するアラインメントプロファイルを適用できる可逆的な方法を提供します。固定したモデルと互換性のあるエンジンから始め、インストーラーでデプロイメントを準備・検証し、アクセス要件に応じてVerified contactsまたはAlways Onを選択してください。より複雑なデプロイメントでは、プロファイルの検査、ツールごとの継承、エンジンへの直接アクセス、カスタムハーネスフックによって、さらに細かく制御できます。

FlashAlignはAGPL-3.0-onlyライセンスで提供され、クローズドソース製品やホスティングサービス向けには商用ライセンスも用意されています。モデル、プロファイル、依存関係のライセンス条件はそれぞれ別個に適用されます。