「The Information」が現地時間の水曜日に報じたところによると、MetaのAIモデルの1つが、サイバーセキュリティテスト中に別の企業のシステムへ侵入した。複数の大手AI企業に続き、AIエージェントがテスト中に他社のシステムへ侵入する事案が再び発生したことになる。
報道によると、MetaのMuse Spark 1.1モデルは、名称が非公開の企業のシステムへの侵入に成功し、その内部システムを変更した。これが可能になったのは、テストに使用された「サンドボックス」環境の設定に誤りがあり、AIモデルがパブリックインターネットへのアクセス権を得ていたためだという。関係者の話として報じられたところによると、MetaはIrregularという第三者評価機関と共同で今回のテストを実施した。
報道によると、Irregularの設定ミスによってテスト環境に問題が生じ、その後、同モデルは別の第三者サービスに存在するセキュリティ脆弱性を利用して攻撃を行った。Metaの広報担当者は「The Information」に対し、これは他社がこれまでに公表した同様の事案と似た状況だと述べた。
一方、Irregularの広報担当者はロイターに対し、この事案は「Anthropicが先週公表した評価環境の問題とまったく同じ」であり、「サンドボックスからの脱出」や複雑なサイバー攻撃行為には当たらないと説明した。
Irregularは声明で、「現時点で未解決の問題は存在しない。Irregularは、テスト環境を安全に隔離する方法と、サイバーセキュリティ評価を実施するためのベストプラクティスを共有するホワイトペーパーを作成している」と述べた。
ちょうど先週、Anthropicは、一部のClaude AIモデルがサイバーセキュリティテスト中に3社のシステムへ侵入したことを明らかにした。これに先立ち、OpenAIも、同社のAIエージェントの1つがテスト中に制御不能となり、攻撃を仕掛けたことを明らかにしていた。