Business Insiderの報道によると、人工知能業界で最も影響力のある監督者の一人、ベス・バーンズ（Beth Barnes）は現在、多くの懸念に直面している。
この元OpenAI研究員はかつて、AIの能力がほぼ毎月のペースで急速に向上していることを研究によって示した。しかし現在、業界には十分な人材が不足しており、AIが次の段階へ進む速度についていけないのではないかと懸念している。
バーンズは2022年にOpenAIを離れ、非営利団体METR（Model Evaluation and Threat Research、モデル評価・脅威研究）を設立した。彼女によると、現在AI安全研究が直面している最大のボトルネックは資金ではなく、人材だという。
METRはAI業界で重要な役割を担っており、OpenAI、Anthropic、Google、Metaなどと緊密に連携している。最新AIモデルの能力を独立して評価し、起こり得るリスクを研究することで、外部に比較的客観的な分析結果を提供している。
しかし、METRが現在募集している職種では年収が最高50.3万ドル（注：現在の為替レートで約340万元）に達するにもかかわらず、人材不足の解消は依然として難しい。
バーンズは「理想的には、チームを何倍にも拡大したいと考えています。実際、必要な資金はすでに調達できます。本当に私たちの成長を制限しているのは、人材の蓄えです」と語った。
これに先立ち、OpenAIとHugging Faceが公表したAI安全上の出来事を受け、AIの能力をどのように評価・制御するかについて、業界で改めて議論が巻き起こった。今年7月には、最先端AI研究所の従業員1,300人以上が連名で公開書簡を発表し、AIの発展速度が人間の制御能力をすでに上回っている可能性があると警告した。新しいモデルの実際の能力を適時に評価できる研究者が十分にいなければ、AI企業は将来、製品のリリースペースを落とさざるを得なくなる可能性もある。
この出来事におけるOpenAIモデルの振る舞いは多くの企業を驚かせたが、METRチームにとってはそれほど意外なことではなかった。政府機関、企業、さらには宗教団体まで、AIの発展レベルを理解・検証したいとしてMETRに支援を求めてきた。
しかし、わずか35人のMETRチーム内では、依然として多くのメンバーが強い懸念を抱いている。
Business Insiderは、OpenAIがハッキング事件を公表した当日、米カリフォルニア州バークレーにあるMETRのオフィスを訪れた。バーンズは現在、AI安全研究分野における最大の制約は、研究者の数が大幅に不足していることだと話した。
彼女は「取り組むべき仕事があまりにも多く、私たちの能力では到底カバーしきれません」と述べた。
彼女の見解では、本当に合理的な社会であれば、AIへの投資のより大きな割合をAIガバナンス、安全性評価、リスク研究に振り向けるべきであり、特にAIモデルの能力が現在の水準にまで発達した段階ではなおさらだという。
「人類の予備隊」と呼ばれるMETR、規模の拡大を目指す
各AI研究所が新しいモデルを相次いで発表する中、METRはこれらのモデルがますます長く複雑なタスクを遂行する能力を継続的に評価している。
METRの最も有名な成果の一つは、広く引用されているトレンドグラフだ。このグラフは、過去6年間で、AIが複雑なタスクを完了する能力が約7カ月ごとに倍増していることを示している。
METRの代表であるクリス・ペインター（Chris Painter）は、チームを「人類の備えのためのチーム（humanity's preparedness team）」と冗談めかして呼んでいる。この表現は、OpenAIやAnthropicでCEOに安全リスクを報告する「備えチーム（Preparedness Team）」という名称にも由来する。
ペインターは「私たちが本当に責任を負っている対象は、どの企業でもなく、一般の人々とその幸福です」と語った。
バーンズは、研究成果が企業の商業的目標に左右されないよう、METRが独立性を保つことが極めて重要だと強調した。
彼女はOpenAIで働いていた時期に、AI企業から独立し、AIの発展状況を自由に評価できる研究機関が業界には必要だと認識したという。
現在、METRは最先端AI企業およびその従業員からの資金提供は受け付けていないが、計算資源の支援は受け入れており、これらの企業と協力して、まだ一般公開されていない新モデルの分析・テストを行っている。
モデルの能力評価に加え、METRはAI企業の安全対策、AIがソフトウェアエンジニアの作業効率に与える影響、AIを使ってAIを監督することの実現可能性についても研究してきた。
バーンズは今後、AI能力の次の段階における発展を予測する方法や、こうした変化がAI自身の発展をどのようにさらに加速させるかについても研究したいと考えている。
METRの研究者ニーウ・パリク（Neev Parikh）は、現在の人材不足によって、チームが研究できる問題の数が制限されており、特にAI内部の推論メカニズムの研究でその影響が大きいと述べた。
彼は「この分野は本当に人手が足りません。業界全体の人材規模が10倍に拡大すれば、とても喜ばしいことです」と語った。
OpenAIの安全事件で、METRの重要性がさらに高まる
今年7月、OpenAIは、AIモデルがテスト中にHugging Faceのシステムへ侵入してテストの答えを取得し、「不正」を行っていたことを明らかにした。
その後、OpenAIの最高経営責任者サム・アルトマン（Sam Altman）は、AIがもたらす安全リスクをこれほど直接的に感じたのは初めてだと述べた。
実際、METRは以前から同様の問題を予見していた。
今年5月、METRは報告書を発表し、現在のAIエージェントは「無許可の展開を自律的に始める可能性が十分にある」と指摘した。ただし当時は、自身の行動を隠す能力をまだ欠いていた。
続く6月、METRは当時まだ一般公開されていなかったGPT-5.6 Solモデルをテストし、同モデルが複雑なテストで繰り返し不正を行うことを発見した。隠されたソースコードを抽出して正解を探す行為も含まれていた。
METRはその後、研究結果を報告書にまとめ、GPT-5.6 Solの正式リリース前にOpenAIへ提出した。
そして7月、GPT-5.6 Solは実際にOpenAIとHugging Faceの安全事件に巻き込まれた。
OpenAIはその後、METRおよび別の非営利団体であるRedwood Researchを招き、今回の事件を共同調査すると発表した。両者の研究結果は、OpenAIの公式技術報告書における重要な参考資料にもなる。
ペインターは「今や、こうした問題は企業の運営に本当の影響を及ぼしています。社会全体が何が起きたのかを明らかにする必要があります」と語った。
OpenAIとAnthropicの最新AIモデルが示したサイバー攻撃能力は、米国社会でも幅広い関心を集め、ワシントンで複数の新たなAI規制法案が登場するきっかけとなった。
そのうち、現在議論されている法案の一つは、大規模AIモデルの開発企業に対し、第三者機関による安全監査を受けることを義務付けている。
将来的にMETRが同様の役割を担う可能性もある。
ペインターは、将来明確な規制制度が確立されれば、より多くのAI企業の従業員がMETRへの参加を望むようになるかもしれないと述べた。給与は企業と同程度だが、ストックインセンティブはないという。
彼は「最終的に業界が統一基準を形成するにせよ、政府が明確な規制を導入するにせよ、この分野は非常に速いペースで規模を拡大できると思います」と語った。
METRが今年5月に発表したAIリスク報告書の執筆を担当した研究者アジェヤ・コトラ（Ajeya Cotra）は、現在のAI規制は依然として「混乱していて予測が困難」だと述べた。
それでも彼女は楽観的な姿勢を保っている。彼女は「この問題を重視し始める人が増え、将来、AIをより真剣に、より成熟した形で規制したいと考える人も増えています」と話した。