『Business Insider』は本日（6日）、NVIDIAが新たなAI安全・サイバーセキュリティエンジニアリングチームをひそかに立ち上げていると報じました。
先月末に一斉公開された求人情報によって、チームの存在が初めて明らかになりました。NVIDIAは新チームの創設技術責任者を務める卓越したエンジニアを採用する計画で、そのほか、安全性研究エンジニア、評価エンジニア、シニアマネージャーなどの職種も募集しています。チームは、まだ導入されていないAIエージェントの安全性を評価するとともに、AIを活用してソフトウェアの脆弱性を自動修正するツールも開発します。
報道では、今回の動きは、NVIDIAがオープンウェイトモデルとAIエージェントに賭ける一方で、AI安全性もより重要な位置に引き上げていることを示すものだとしています。オープンウェイトモデルでは、モデルの動作を決める学習パラメーターが公開されますが、学習データやソースコードは非公開のままにできます。
NVIDIAはある求人情報で、チームが「揺るぎない信念」を掲げていると説明しています。それは、オープンウェイトモデル、技術の透明性、そして幅広い科学的検証が、米国がAIのリーダーシップを維持し、サイバーセキュリティの防御能力を強化する基盤になるというものです。
IT之家の取材によると、ここ数か月、NVIDIAはオープンウェイトAIモデルへの支持を公に示す機会を increasingly増やしており、OpenAIやAnthropicなどが採用するクローズドモデル路線とは鮮明な対照をなしています。
NVIDIAの創業者兼CEOであるジェンスン・フアン氏は先月、X上で初めて投稿し、米国の政策立案者にオープンモデルへの支持を呼びかける公開書簡を転載しました。同氏は、オープンモデルによってAIの安全性を高め、サイバーセキュリティを強化できると指摘しました。
AIが会話しかできないチャットボットから、企業の機密データを読み取り、ツールを呼び出し、現実世界のタスクを実行できるエージェントへと進化するなか、企業がAIシステムを信頼できるかどうかが、普及の速度を左右する重要な要因になる可能性があります。