海外メディアFuturismは本日（12日）、スタンフォード大学医学部の医学生兼ジャーナリスト、シマール・バジャージ氏と、ジョンズ・ホプキンス医療センターの外傷外科医兼外科部門執行副部長、ジョセフ・サクラン氏が、医学生によるAI利用がもたらす問題は非常に深刻だと考えていると報じた。
バジャージ氏とサクラン氏は『ガーディアン』紙に寄稿し、医学生がAIを使う危険性は、単なる技能の低下にとどまらず、そもそも最初から本当の意味で技能を身につけられなくなる可能性にあると指摘した。「推論の方法を忘れた医師なら、再びその能力を身につけられる可能性がある。しかし、推論の方法を一度も学んでいない医師には、それができないかもしれない」
バジャージ氏とサクラン氏は、最近明らかになった2つの事実が特に懸念されると指摘している。
1つ目は内部データによるものだ。米国の医師の約3分の2が、臨床医向けに特化したAIチャットボット「OpenEvidence」をすでに利用している。これは、この技術が医療業務の流れに広く入り込み、医療従事者の日常業務に深く組み込まれていることを示している。
2つ目は、『Nature Medicine』に掲載された新たな研究だ。研究者らは、医療専用の大規模言語モデルの信頼性を評価した。結果は意外なものだった。これらの臨床AIツールによる医療問題への回答性能は、ChatGPTやClaudeなどの汎用チャットボットを下回ったのだ。
研究者らによると、全体的な性能はおおむねGoogleの「AIによる概要」と同程度だった。AIによる概要は以前から、性能が不安定で回答が不正確だとして悪名高い。
AIツールは資料の検索を助けられるとしても、信頼性そのものに重大な問題が残っていることはさておき、学習者が自分で頭を使って考えることの代わりにはならない。その理由は、学習においては、苦労して考えること自体が重要だからだ。
バジャージ氏とサクラン氏は次のように記している。「例えば、かつて研修生に可能性のある診断を列挙させていた際、研修生は苦労して考えた末に、不完全なリストしか提示できないこともあった。そして、漏れた項目から学び、ときには診断を見落としたことで恥ずかしい思いをすることもあった。今では、研修生はOpenEvidenceに尋ねるだけで、ほぼ完璧な回答を直接得られる。その中には、本人が一度も検討したことのない可能性も含まれているうえ、診断を見落とす恥ずかしさを経験する必要もない」
バジャージ氏とサクラン氏は、AIが過去の医学技術の進歩と異なる点について、AIは医師が見られる範囲を広げているだけでなく、医学教育によって本来構築されるはずの認知メカニズムに介入していることだと記している。
バジャージ氏とサクラン氏はいくつかの解決策を提案している。その1つは、研修生にAIの助けを一切借りず、定期的に独力で症例に対処させることだ。これは、米連邦航空局がパイロットに定期的に自動操縦システムを切り、航空機を手動で操縦するよう推奨しているのと同様の考え方である。一方、もう1つの強力な制約は、「恥の感情」から生まれるのかもしれない。