OpenAIの社長兼共同創業者であるグレッグ・ブロックマン氏は企業にサイバーセキュリティ上の警鐘を鳴らした。OpenAIのAIモデルがHugging Faceに侵入することに成功した事実は、すでに「サイバーセキュリティの分水嶺となる瞬間」となっており、企業はAIを活用する攻撃者に対処するため、直ちにシステムの防御を強化しなければならない。
現地時間16日、ブロックマン氏は自身のブログで次のように述べた。「ここ数週間、私は多くの組織と意見交換を行った。その結論は非常に明確だ。誰もが、これまでにないスピードでサイバーセキュリティ能力を全面的に高めなければならないと認識している」
ブロックマン氏は、AIツールがまもなく、OpenAIのモデルがHugging Faceのシステムに侵入した際のように、脆弱性を自動的に発見できるようになると指摘した。一方でAIは、こうした欠陥の修正も「はるかに容易」にし、企業が攻撃を阻止する助けにもなるという。
注：OpenAIは今年7月、社内テストでAIエージェントが本来制限されていたテスト環境を突破し、その後Hugging Faceへの侵入に成功したことを明らかにした。
ブロックマン氏は、この出来事は企業があらかじめ脆弱性への防御を整えておく必要性をさらに示していると考えている。また、企業の「防御側」が早急に実行すべき10項目のサイバーセキュリティ対策を列挙し、次のように呼びかけた。「時間は極めて重要だ。防御側は以下の取り組みを最速で進めなければならない」
組織全体から明確な支持と投資を得る。
セキュリティチームにAIエージェントを配備する。
AIエージェントにサイバーセキュリティの専門知識を持たせる。
直ちに自社システムのセキュリティ評価を実施する。
既存の未修正脆弱性の滞留を早急に解消する。
セキュリティレビューをソフトウェア開発プロセスに直接組み込む。
AIエージェントに発見した問題の修正を支援させる。
検出結果の分析と振り分けを段階的に自動化する。
AI支援によるデジタルフォレンジック能力をあらかじめ構築し、セキュリティインシデントが発生してから準備を始めることのないようにする。
継続的に実験し、ハッカーウィークを実施して、迅速に反復・改善する。
ブロックマン氏はさらに、現在、防御側にはなお「猶予期間」があると指摘した。今後数か月の間に、すべての組織はシステムの安全を維持し続けるため、セキュリティ体制の自動化レベルを大幅に高め始めなければならない。AIの能力が向上し続ける中、サイバーセキュリティ業界は直ちに行動し、新たなツール、実践手法、対応マニュアルを整備して、防御能力の向上速度を攻撃能力の向上速度より速くしなければならない。
参考
https://blog.gregbrockman.com/the-defenders-window