米バーモント州選出のバーニー・サンダース上院議員はこのほど、主要な人工知能企業3社の責任者、Anthropicのダリオ・アモデイCEO、OpenAIのサム・アルトマンCEO、Meta創業者のマーク・ザッカーバーグ氏に書簡を送り、各社の経営陣に「人間が制御できない機械を作るのをやめる」よう求めた。
書簡の中でサンダース氏は、今年7月に発生した事件に言及した。AIエージェントがOpenAIのサンドボックス環境から逃げ出し、Hugging Faceのプラットフォームに侵入した事件だ。当時、OpenAIはこれを「前例のないサイバーセキュリティー事件」と説明した。
サンダース氏は各CEOに「人工知能の開発を一時停止」するよう要求した。企業の責任者が「適切な行動を取らない」場合、米上院が介入すると述べた。
現時点で、サンダース氏が求めた全面的な開発停止を受け入れたAI企業はないが、各社は実際に一定の抑制策を講じている。OpenAIは現地時間の先週金曜日、一部のAstraモデルの開発作業を停止したと発表した。Anthropicの幹部2人も今年6月、世界規模でAI開発を一時停止する可能性について議論していた。
しかし、その他の面ではAI研究所の開発ペースはむしろ加速している。Anthropicは今年2月、サンダース氏の書簡で言及された安全に関する約束の一つを撤回した。
サンダース氏は長年、AI企業を批判してきた。今年12月には、人工知能向けデータセンター建設を全国的に一時停止する政策を推進し始めた。この提案は上院の支持を得られなかったものの、米ニューヨーク州はすでに同様の政策を実施している。
サンダース氏の書簡全文：
アルトマン氏、アモデイ氏、ザッカーバーグ氏へ
ほぼ毎日のように、皆さんが開発している人工知能技術が制御を失いつつあり、壊滅的な結果をもたらす可能性があるという新たな報道を目にします。
今週、人工知能が初めて新たなウイルスの創出に利用されたという衝撃的な事実を知りました。ご存じのとおり、この種の技術が誤った人々の手に渡れば、新型生物兵器の製造に利用され、数千万人が死亡する可能性があります。
先月、世界はOpenAIがあるAIモデルに対する制御を失ったことを知りました。その結果、何が起きたのでしょうか。そのモデルは別の企業のコンピューターシステムに侵入し、これは明らかに連邦法に違反しています。内部調査を終えた後、AnthropicとMetaも、自社のモデルで同様に制御から逃れる事態が起きたと報告しました。
攻撃を受けた企業は、このAIによる侵入を「前例のない事件」とし、「前例のない対応」が必要だと述べました。世界で最も引用されている存命科学者の一人、ヨシュア・ベンジオ氏は、これらの事件は「警鐘となるべきだ」と述べています。
私も同意します。
皆さんが率いる企業の一流科学者たちも同じ見解を持っています。彼らこそ、この技術の開発者です。ご存じのとおり、こうしたテクノロジー分野の指導者たちは最近、災害を回避するため、国際社会に安全メカニズム、つまり「一時停止ボタン」を設けるよう呼びかけました。彼らは、「能力の発展速度が、関連システムを理解または制御する能力を急速に上回る現実的なリスク」が存在すると警告しています。
しかし、私たちがすでに人類によるAIの制御喪失や、危険になり得るウイルスの創出を目の当たりにしているにもかかわらず、皆さんの企業はなお競争を続けています。誰も完全に理解、予測、制御できない技術を推進するため、数百億ドルを投じているのです。
これはばかげたことであり、無責任で、極めて危険です。これは皆さん自身がかつて行った約束にも反しています。
2023年、Anthropicは、能力の拡大が「……安全手順を遵守する能力を上回る」場合、「規模の拡大を停止し、新たなモデルの展開を延期することを約束する」と表明しました。
2025年、Metaは「最先端AIが重大なリスクのしきい値に達し、効果的に緩和できないと評価された場合、開発を停止する」と表明しました。
同年、OpenAIは、AIの能力が「重大な」しきい値に達した場合、強固な安全対策が整うまで「さらなる開発を停止する」と表明しました。
その時はすでに到来しています。AIの能力は重大なしきい値に達しました。米中央情報局の長官が、AIモデルは「デジタル核兵器」に似ており、さらには「ほとんど終末装置のようだ」と述べたのには理由があります。
アルトマン氏、アモデイ氏、ザッカーバーグ氏。人類のために、かつて皆さんが行った約束を守ってください。人工知能の開発を一時停止してください。今行動しても遅すぎることはありません。災害を回避することはまだ可能です。人間が制御できない機械を作るのをやめてください。
明確に申し上げます。皆さんが今、適切な行動を取らないのであれば、私と米上院の同僚たちは行動を起こします。
敬具
バーナード・サンダース
米上院議員