ロイター通信が本日、事情に詳しい関係者の話として報じたところによると、OpenAIはHugging Faceへの攻撃事件を調査する中で、ほかにも自律型AIエージェントが管理された環境から脱出した事例を発見した。
現在、OpenAIは具体的な事例を調査している。関係者の1人によると、上述の「脱獄」行為による影響範囲は限定的で、現時点では、これらのエージェントがOpenAIのネットワーク環境から脱出したことを示す兆候はない。
OpenAIの広報担当者はこれについて、「Hugging Faceへの侵入事件を調査するだけでなく、社内のほかのモデルによるより広範な活動についても調査している」と回答した。
上述の事件の規模が限定的であったとしても、これらのエージェントの制御不能な行動は、米政府による人工知能規制の強化をさらに促す可能性がある。
IT之家が以前報じたように、Anthropicも最近、自社のClaudeモデルが発生させた、起きるべきではなかった実際のサイバーセキュリティ事件が3件あったと明らかにした。その直接的な原因は、第三者評価環境の設定ミスだった。
AI安全の専門家は、上述の事例が憂慮すべき状況を浮き彫りにしていると指摘する。最先端AIを開発する複数の研究所は非常に大きな危険性を持つエージェントを作り出せる一方で、これらの企業自身がAIを制御できていないという。
関係者によると、OpenAIと外部の専門家は今年に入ってからのログデータを分析し、攻撃事件の経緯を把握しようとしている。