ネット上の恋愛詐欺は、インターネット世界で最も歴史の長い詐欺の一つだが、今も新たな被害者が後を絶たない。4大学が共同で実施した研究によると、現在ではAIチャットボットによるこの種の詐欺の効果が、真人をさえ上回っているという。憂慮すべき結果だ。
現在、恋愛詐欺は通常、マッチングアプリから始まる。詐欺師は非常に魅力的なプロフィールを使い、積極的で情熱的な人物を装う。その人物は、あらゆる面で被害者の理想の相手の条件に合致している。
その後、詐欺師は被害者と長時間にわたってオンラインで交流する。この過程は通常、数か月続く。詐欺師は「長期の海外出張中」や「海外旅行中」などとうそをつき、なぜすぐに会えないのかを説明することが多い。
双方の間に十分な信頼が築かれると、詐欺は通常、2つの方向のいずれかに進む。1つは、詐欺師が突然のトラブルに見舞われ、困難から抜け出すために資金が必要だとうそをつくケース。もう1つは、自分が投資で大きな利益を上げていると被害者に見せ、架空の暗号資産投資案件への送金を誘導するケースだ。
IT之家が把握したところ、この種の詐欺は「ロング・コン（Long Con）」と呼ばれる。長期にわたって信頼関係を築くことに依存し、詐欺師が数か月にわたって毎日、被害者とチャットすることが多いためだ。一見すると多くの時間を必要とする方法だが、実際には、こうした詐欺は通常、カンボジア、ミャンマー、ラオスなどにある詐欺拠点で実行されている。従事者の多くは収入が少なく、中には人身売買の被害に遭い、詐欺を強制されている人もいる。
《Wired》の報道によると、この研究は、インドのアムリタ・ヴィシュワ・ヴィディヤピータム大学（Amrita Vishwa Vidyapeetham）、イタリアのヴェネツィア・カ・フォスカリ大学（Ca' Foscari University of Venice）、オーストラリアのメルボルン大学、イスラエルのネゲブ・ベン＝グリオン大学（Ben-Gurion University of the Negev）の研究者が共同で実施した。テスト対象にはChatGPT、Claude、GeminiなどのAIチャットボットが含まれていた。
研究者は、AIチャットボットと真人の詐欺師にそれぞれ、恋愛詐欺の模擬プロセスに参加させた。より正確には、詐欺の初期段階において、長期的なチャットで信頼を築き、最終的に被害者を架空の案件への投資へ誘導する過程を再現した。
研究結果によると、AIチャットボットは極めて優れた成績を示した。真人になりすますことに成功しただけでなく、一部の指標では実験に参加した真人の「詐欺師」を上回った。
実験に参加した被験者は、研究の本当の目的を知らされておらず、チャット相手は常に真人だと考えていた。実際の相手がAIであっても人間であっても同じだった。研究者は、主観的評価と客観的テストの2つの方法で、双方が築いた信頼の度合いを測定した。
チャットの最後に、研究者が被験者に「アプリをダウンロードする」といった依頼をしてテストしたところ、真人が段階的に信頼関係を築いた場合に同意したのは被験者の18%にとどまった。一方、チャット相手が実際にはAIだった場合、その割合は半数近くに達した。
さらに、被験者にチャット相手への信頼度を評価してもらったところ、AIチャットボットの評価も真人を明らかに上回った。
《Wired》は研究結果についてAnthropic、OpenAI、Googleに問い合わせた。OpenAIとGoogleは回答しなかった。一方、Anthropicの広報担当者は声明で、同社のポリシーは詐欺や真人へのなりすましなどを目的としたClaudeの利用を明確に禁止していると説明した。また、詐欺師によるClaudeの悪用を防ぐため、複数の技術的な防御策も導入しているという。
研究者は、この研究で最も懸念される点は、詐欺グループが真人のオペレーターをAIチャットボットに置き換えれば、詐欺拠点の運用規模が大幅に拡大する可能性があることだと考えている。
AI詐欺ボットは、大量の人手を必要とせず、数千人の潜在的な被害者と同時に会話できる。詐欺グループが真人の介入を必要とする可能性があるのは最後の段階、つまり被害者に送金を促す場面だけだ。この段階で、AIシステム自体に設定された安全制限を回避するため、真人が介入することになる。