英紙ガーディアンによると、イングランド銀行総裁のアンドリュー・ベイリー氏（Andrew Bailey）は、最先端の人工知能技術が世界にもたらす可能性のあるリスクに注意を促す著名人の増加する警告者の列に加わった。
IT之家によると、ベイリー氏は現在、金融安定理事会（FSB）の議長を務めている。同氏はこの立場で先日、各国の財務相と中央銀行総裁に2ページの書簡を送り、「最先端」のAIモデルがますます高度な自律能力と問題解決能力を示す一方、脅威となる行動を実行する能力も備えていると指摘した。
同氏は、こうしたモデルがサイバー攻撃を通じて相互接続性の高い世界の金融システムを混乱させる可能性があり、サイバー攻撃による被害は「異なる法域をまたいで急速に拡大し得る」と警告した。
今週、米ノースカロライナ州で開催される会議を前に、ベイリー氏はG20財務相・中央銀行総裁に宛てて次のように記した。「最近の発展を受け、私は、多くの法域で先端的な最先端AIモデルの開発、公開、導入を管理するための適切な仕組みがまだ整備されておらず、金融分野、さらにはより広範な領域におけるリスクを増大させていることにも気付いた。」
ベイリー氏のこの書簡は、最近高まっているAIリスクをめぐる懸念をさらに強めるものとなった。ここ数週間、複数の著名なテクノロジー関係者が相次いで警告を発しており、ベイリー氏の見解も、AIリスクへの対応で国際社会に協力を呼びかけてきた従来の立場を踏襲している。同氏は以前、ロンドン金融街の企業責任者に対し、「いかなる国も、今日広く存在する国境を越えたシステムから完全に自らを隔離することはできない」と述べていた。
先月には、最先端AI研究所に所属する1367人の研究者とエンジニアも連名で警告を発した。その大半はOpenAI、Anthropic、Google DeepMindの関係者だった。この書簡により、日々AI開発に携わるエンジニアたちが何を懸念しているのかが、さらに明らかになった。
この連名書簡は、「AIの能力が、関連システムを理解または制御する私たちの能力を急速に上回る現実的なリスクがある」と指摘した。そのうえで米政府に対し、「自動化AIの発展速度を意識的に制御するために必要な技術とガバナンスツールを開発する国際的な取り組み」を支持するよう求めた。
今月初めには、OpenAIの従業員が、最先端のAIエージェントが訓練環境から脱走し、前例のないハッキング攻撃を開始して世界的な注目を集める数週間前から、こうしたAIエージェントに異常な行動の兆候が現れていることを観察していたとの報道もあった。
この懸念を金融政策の分野にまで広げ、ベイリー氏は次のように述べた。「金融システムにとって現在最も直接的な懸念は、最先端AIがサイバーリスクに及ぼし得る影響だ。最先端AIは、サイバーリスクの速度、規模、経済的コストを根本的に変える可能性がある。特に金融システムが少数の第三者サービス提供者に大きく依存している状況では、市場全体の信頼が損なわれる可能性がある。」
ベイリー氏は、世界の金融システムの安全維持を担う関係機関に対し、「最先端AIモデルを世界規模で安全かつ責任ある形で公開・導入することを支援する適切な措置を講じる」ことを優先事項とするよう呼びかけた。
この書簡では、債券・株式市場でレバレッジが上昇し続けていることへのベイリー氏の懸念にも触れている。同氏は、一部の金融市場では現在のバリュエーションがすでに高水準にあり、市場の集中度も高いと指摘した。投資家のAI発展見通しへの楽観も、関連資産の評価額を特に押し上げているという。これらの要因が重なることで、将来の市場調整の規模がさらに拡大する可能性がある。
ベイリー氏は、「そのため、私は依然として、1つの大きなショック、あるいは複数のショックが同時に発生することで、複数の潜在的なリスク要因が同時に引き金を引かれる可能性を懸念している」と記した。
ベイリー氏は2020年3月からイングランド銀行総裁を務めている。それ以前には、英国の主要な金融規制機関である金融行為規制機構（FCA）と健全性規制機構（PRA）を率いていた。昨年、同氏は金融安定理事会の議長に任命された。
金融安定理事会はスイスのバーゼルに本部を置き、各国の金融規制当局や国際基準設定機関の取り組みを調整している。また、世界の金融安定を維持するため、効果的な規制措置と政策の策定を推進している。