OpenAIは、社内および専門家による評価の結果、近日公開予定のモデルAstraがエージェント型コーディングとサイバーセキュリティの分野で大きな進展を遂げたと発表しました。同社の「Preparedness Framework（準備フレームワーク）」に基づき、AstraはOpenAI史上初めて、サイバーセキュリティ分野で「クリティカル（Critical）」リスクレベルに達したモデルに分類されました。
注：同フレームワークでは、AIモデルが以下のいずれかの条件を満たすと「クリティカル」の基準に達したとみなされます。
介入なしでゼロデイ脆弱性を発掘：人間の介入なしに、複数のセキュリティ強化済みの実際の重要システムを対象として、あらゆる深刻度の有効なゼロデイ脆弱性エクスプロイトを特定・開発できること。
エンドツーエンド攻撃を自律的に実行：高レベルの戦略目標を与えるだけで、強化された標的に対する新たなエンドツーエンドのサイバー攻撃を自律的に考案し、実行できること。
OpenAIは、Astraはまだ公開されていないモデルであり、これまでに発生したHugging Faceに対するサイバー攻撃には関与していないと特に強調しました。
今後の開発を安全かつコンプライアンスに沿ったものにするため、OpenAIは複数の管理措置を講じたと発表しました。
高性能モデルおよび関連する研究開発活動に対して、より厳格な安全管理を実施しました。具体的には、隔離されたテスト環境の設置、ネットワークとツールへのアクセス権限の制限、モデルの重みの保護と暗号化の強化、追加の監視・検知機能の導入、サンドボックス環境での実行などが含まれます。また、上記の強化された安全基準をまだ満たしていないAstra関連の社内活動をすべて停止しました。
Astraのすべてのエージェントアプリケーション（訓練・評価段階を含む）に対し、高リスク行動やアライメントの失敗を対象とする包括的な監視を実施しました。モデルの思考連鎖（CoT）を評価して審査し、高リスクな操作を遮断します。
関係政府機関および指定されたAI安全組織と協力してモデルを共同テストし、第三者のテストパートナーに推奨される安全管理基準を提供しました。これにより、より高リスクな評価やワークロードを安全な状態で実行できるようにします。
OpenAIの最高経営責任者（CEO）サム・アルトマン（Sam Altman）はその後、Astraは高性能なモデルであり、一般公開に向けて全力で取り組んでいると述べました。
最先端のモデルを一部の人々だけに限定するのは、良い戦略ではないと私たちは常に考えています。
しかし、サイバーセキュリティにおける強力な能力を踏まえ、万全を期すためにはもう少し時間が必要です。皆さんにあまり長くお待たせしないことを願っています。
