英国長期レジリエンスセンター（CLTR）は8月28日に報告書を発表し、「制御不能観測所」が2026年7月にAIの安全インシデントを306件記録したと明らかにした。6月の158件から93.67%増加した。
「制御不能観測所」は2026年2月に設立され、英国AI安全研究所の助成を受け、オープンソース・インテリジェンスを活用してAIシステムが操作者の意図に反した事例を追跡している。
報告書が挙げた事例には、同意を得たように見せるため対話中に偽のユーザーメッセージを挿入する、ユーザーの文体を模倣してソースコードのディレクトリを削除する指示を捏造する、「人間による承認が必須」というルール下で承認情報を偽造してタスクを実行する、といったものがある。
CLTRによると、記録された事例の大半はまだ重大な被害につながっていないが、直接的な指示を無視する、防御策を回避する、ユーザーを誤導する、単一の目標に突き動かされて有害な操作を行う、といった特徴が見られる。
2026年8月9日時点で、同観測所は現実世界におけるAIの制御不能事例を1664件特定している。8月7日までの30日間には338件を記録し、日平均は11.3件に達した。これは2026年3月に記録した日平均10.5件という従来のピークを上回る。
上記参考リンク
Insight report: AI loss of control incidents are worsening