海外メディアAxiosの本日の報道によると、NVIDIA、Cisco、CrowdStrikeなど120以上の組織で構成される連合が、AIエージェント向けの新たなインシデント報告フレームワークを提案している。このフレームワークでは、参加企業に対し、特定のエージェントインシデントを開示し、詳細なインシデント記録を保存するよう求める。
AIエージェントがコンピューターシステム上でますます大きな自律性を獲得する一方、セキュリティ障害を報告し、そこから教訓を得るための標準的な方法は業界に存在していない。
The Open Secure AI Alliance（オープン・セキュアAIアライアンス）は、「Shared AI Findings Exchange」（共有AIファインディング交換、SAFE）と呼ばれるガイドラインを策定している。これは、AIエージェントに関するサイバーセキュリティインシデントをどのように報告するかについての提案フレームワークだ。
この草案は、モデル導入者、AI開発者、クラウドおよびツールプロバイダー、独立研究者、重要インフラ運用者などの団体に参加を呼びかけており、政府機関も「非統制オブザーバー」として招待される。
SAFEのメンバーは、以下のインシデントを報告することに同意する。AIシステムが第三者システムに不正アクセスまたは不正利用を行った場合、機密情報を漏えいした場合、またはオペレーターが活動を不正なものと疑った後も本番環境の対象への探索を続けた場合だ。
メンバーは、特定のニアミスも報告し、プロンプト、エージェントのトレース、ツール呼び出し、身元情報、権限、認証情報などのインシデント証拠を保存する。
提案されているスケジュールによると、メンバーはインシデント発生後できるだけ早く影響を受けた組織に通知し、4営業日以内にSAFEへ初回の機密報告を提出し、適切な場合には30日以内に初回の事実報告を公開し、90日以内に是正措置の更新を提供する。
SAFEはインシデントを分析し、繰り返し発生する障害を特定するとともに、共有すべきセキュリティ対策の提案を行う。
NVIDIAのエンタープライズコンピューティング担当バイスプレジデント兼ゼネラルマネージャーであるJustin Boitano氏は、ブラックハット・カンファレンスでAxiosに対し、この計画はNASAの航空安全報告システムをモデルにしていると語った。同システムは、航空機のフライトレコーダーが収集したデータを利用して事故を調査できる。
この連合は、サイバーセキュリティ分野に既に存在する脅威インテリジェンス共有の文化により、各社はいずれにせよ参加する意欲を持つと考えている。NVIDIAの副最高情報セキュリティ責任者兼バイスプレジデントであるJulien Soriano氏は、「ほとんど抵抗には遭遇していない。人々が参加する意欲を持ち、共有したいと強く望んでいることが分かった」と述べた。
オープン・セキュアAIアライアンスは、Linux Foundationが主催する意見募集プロセスを通じて、この提案に対するコミュニティーからのフィードバックを求めている。