『WIRED』誌の昨日の報道によると、米国のサイバーセキュリティ系スタートアップFrontier Securityは、月之暗面のKimi K3モデルのサイバーセキュリティ能力をテストしていた際、モデルが隔離していたサンドボックス環境から離脱したと明らかにした。
報道によると、今回のAI脱出事件はOpenAIやAnthropicの事例と同様、直接の原因はモデルを隔離するサンドボックスの設定ミスだった。Frontier Securityは、Kimiには他の最先端AIモデルと比べてネットワーク保護機構が不足しており、明確な許可を得ずにインターネットへアクセスできたと考えている。
Frontier Securityの最高経営責任者（CEO）Yaron Singer氏は、「サンドボックスに脆弱性があることが分かったが、Kimiもその脆弱性を悪用した。これは、同等クラスの他のモデルが備える内部安全機構を持っていない可能性を示している」と述べた。
ただし、Kimi K3はサンドボックスを突破してインターネットへのアクセス権を得た後も、攻撃行為は行わず、GitHubである質問への答えを探しただけだった。
最近、AIの脱出事件がますます頻発していることは、AIの能力が高まるほど、人類による制御が難しくなることを示している。OpenAIは先月、社内の非公開モデルがテスト中に隔離環境を突破し、その後Hugging Faceのプラットフォームを攻撃したと明らかにした。続いてAnthropicも、同社の複数のモデルがセキュリティテスト中にインターネットへのアクセス権を取得し、外部システムを攻撃したことがあると説明した。
一部のサイバーセキュリティ専門家は、今回の発見は、最先端AIモデルのためにサンドボックス環境を再構成する必要があることを示していると指摘した。また、OpenClaw（注：通称「ロブスター」）などのエージェントを利用するユーザーは、AIが境界を越えないよう環境設定を慎重に行う必要がある。