英紙「ガーディアン」は27日、デジタルマーケティング機関Hallamの調査で、AIが生成した医師の画像がTikTok上で疑わしい健康アドバイスを拡散しており、人気動画の再生回数は数百万回に達することが分かったと報じた。
英国医師会理事会副会長のエマ・レンスウィック医師、イングランド国民保健サービス（NHS）全国医療責任者のフランキー・ソーズ教授、英国王立一般診療医学会会長のビクトリア・ゾジウ・ブラウン教授、ユニバーシティ・カレッジ・ロンドンで健康誤情報を研究するアレックス・ルアニ氏、イングランド健康監視局の政策・広報担当暫定責任者ウィリアム・ペット氏ら専門家は、ネット上の誤解を招く健康情報が公共の安全に深刻な危害を及ぼすと警告している。
レンスウィック氏は、一部のAIアカウントが医療上の誤説を売り込み、いわゆる奇跡の治療法を喧伝しており、深刻な結果を招く可能性があると指摘した。また、TikTokなどのプラットフォームは、増え続ける危険な誤医療情報を抑えるため、取り組みを強化しなければならないと警告した。そうでなければ、人々は健康を失い、命さえ落とす可能性があるという。
研究者によると、AIバーチャル医師は、すでに否定されている複数の発がん説を拡散している。その中には、プラスチック容器で食品を電子レンジ加熱すること、制汗剤を使用すること、睡眠中に携帯電話をそばに置くことががんを引き起こす可能性があるという説が含まれる。
英国の慈善団体「キャンサー・リサーチUK」は、これらの主張を一つずつ否定した。
TikTokの健康分野で人気の動画では、AI生成コンテンツが40%を占めている。動画の大半は、実在の医師を外見や身元設定のモデルにした、増加し続けるディープフェイクのインフルエンサーアカウントから投稿されている。「健康アドバイス」など特定の語句で検索すると、84%の動画がAI生成またはAIの補助を受けて制作されたものと判定された。
Hallamによると、検索結果で最も注目を集めたAI医師・健康関連動画の平均再生回数は250万回だった。「ガーディアン」が一部動画のサンプルをTikTokに提出したところ、TikTokは指摘された動画を削除した。
一部のアカウントは、奇妙な健康療法も宣伝している。例えば、コカ・コーラとタマネギを混ぜて鎮痛に使う方法や、架空の商品「Hyalethinap Plus Pro Max」をアンチエイジング製品として売り込む内容だ。
あるAIバーチャル医師は、長年にわたって患者に「Hyalethinap Plus Pro Max」を勧めてきたと主張した。このアカウントによると、同製品は人体が「自然に抗老化分子を生成する」のを助け、脱毛、皮膚の脆弱化、爪が割れやすくなる症状、関節痛などを改善できるという。「ガーディアン」は、Hyalethinap Plus Pro Maxが実在することを証明する証拠をネット上で見つけられなかった。
ソーズ氏は調査結果について、ネット上の医療誤情報が増加していることは憂慮すべきだと述べた。「多くの臨床医から、クリックを稼ぐためだけに作られた虚偽の助言によって、不安や混乱を感じる患者が増えているとの報告を受けている」と語った。
ブラウン氏も調査結果は同様に懸念されるものであり、誤解を招くAIコンテンツが実際に人々を傷つける可能性があると述べた。
Hallamは計1198本の動画を分析し、「健康アドバイス」「医師のアドバイス」など複数の検索語の結果から、それぞれ最も注目を集めた動画50本を選んだ。調査対象には、個人の財務や教育など、人生の選択に影響し得る一般的なアドバイスも含まれていた。
ルアニ氏は、AI医師の動画が大量に増加したことで、恐ろしい規模で人々が虚偽の医療情報にさらされていると述べ、さらに、世間の信頼を工業的な規模で搾取している者もいると指摘した。
昨年、患者の権利擁護団体「イングランド健康監視局」の委託を受けたSavantaが、イングランド在住の18歳以上の男性3575人、女性3832人を対象に調査を行った。その結果、回答者の約5人に1人がソーシャルメディアから健康情報を得ていることが分かった。
ペット氏は、「信頼できる情報、商業的な宣伝、誤情報を見分ける能力がなければ、人々は誤った情報に惑わされ、健康にも深刻な被害が及ぶ可能性がある」と述べた。
TikTokの広報担当者は、「この調査は商業的利害関係を持つマーケティング機関によって実施されたもので、調査結果はTikTokの実態を正確に反映していない。当社はAI生成コンテンツなど、有害な健康誤情報を削除するとともに、世界保健機関（WHO）や英国の国民保健サービス（NHS）と連携し、アプリ内で信頼できる健康情報を提供している。また、AIリテラシー向上のためのリソースやコンテンツのラベル付け技術への投資も継続している」と述べた。