英紙「ガーディアン」は本日（23日）、OpenAIの最高グローバル・アフェアーズ責任者クリス・レハーン氏が、最先端AIモデルはすでに複雑なサイバー攻撃を計画・実行する能力を備え始めていると警告し、市民と企業はAIによる「絶え間ない」サイバー攻撃への防御に備える必要があると報じた。
安全上のリスクが高まる中、OpenAIは今週、最先端の社内モデルの一部について開発を一時停止すると発表した。レハーン氏は「この技術が現在できることを見ると、AIは異なる段階に入った」と述べた。
レハーン氏が「ガーディアン」のインタビューを受ける少し前、OpenAIはある予期せぬ事態に見舞われた。
IT之家によると、7月末、訓練中だった最先端AIエージェントが、安全だと考えられていた「サンドボックス」環境を突破し、インターネットに接続した後、Hugging Faceに侵入した。OpenAIはまた、別の新モデルAstraが「重要なサイバーセキュリティ能力」をすでに備えている可能性を排除できないと表明した。
OpenAI自身のリスク定義によれば、これはAIモデルが、深刻な結果をもたらすサイバー攻撃を実行できる可能性があることを意味する。単一の行為主体に災害を引き起こさせたり、軍事システム、産業システム、OpenAI自身のインフラに侵入したりする形が含まれる。
OpenAIは今週、新たな安全対策を追加するため、最先端AIモデルの一部の訓練を一時停止すると発表した。新たな対策の導入が完了した後、訓練をいつ再開するかについては、依然として明確な時期が示されていない。
安全性とアライメントを担当するミア・グレイス氏は「すべてが正常に戻るまでには、まだ非常に長い道のりがある」と述べた。
OpenAIのCEOサム・アルトマン氏は「AIの安全性を確保することは、どの企業の成長速度よりも重要だ」と強調した。
レハーン氏は、この脅威によって一般の人々が「安心できる」状況にはなりにくいことを認めた。同時に、同氏は改めて米国政府に対し、最先端AIの安全性に関する法整備を求めた。最先端でまだ公開されていないAIモデルは、現在、サイバー攻撃能力を防御能力よりも速く高めている可能性があり、これこそ米国が強制的な安全基準を設けなければならない重要な理由の一つだという。
レハーン氏はさらに「モデルは、一定水準の安全性を達成していることが証明・保証されて初めて、一般に公開または導入できる。米国はまず全国的な制度を構築し、それを基盤に国際的な制度を推進する必要がある。最終的には、何らかの国際レベルのガバナンス体制が確実に必要になる」と指摘した。