OpenAIは昨日、公式サイトで、カンボジアを拠点とする詐欺ネットワークへの対策に成功したと発表しました。この詐欺グループはChatGPTを利用し、投資詐欺や恋愛詐欺、ギャンブル詐欺を行っていました。
今回の事案は今年初めに発生し、当初はWhatsAppから情報提供がありました。詐欺師らは組織的なグループとして活動し、さまざまな話法や偽の身元、攻撃手法を巧みに使い、被害者を最大限にだまそうとしていました。
OpenAIの調査によると、これらのユーザーは人身売買や犯罪行為の強要に関するコンテンツも生成しており、その内容は多数の公開報道と一致していました。そのためOpenAIは、互いに連携していた一連のChatGPTアカウントを停止しました。これらのユーザーはカンボジアからアクセスしていた可能性が高く、バンテアイメアンチェイ州のポイペト地域で活動していたとみられます。
また、この詐欺ネットワークはChatGPTモデルを利用して偽の身元を作成し、詐欺メッセージを翻訳し、詐欺活動の宣伝コンテンツを制作していました。さらにGPTを使って内部通知を起草し、従業員間のやり取りを翻訳していました。
これらの詐欺師は偽の身元を使って被害者と信頼関係を築き、その後、暗号資産や金の取引に関する偽の投資案件へ誘い込んでいました。詐欺の話法には違いがあったものの、このネットワークのユーザーは一貫して同じパターンの不正行為を示していました。
現在、OpenAIは上記ユーザーのChatGPTアカウントを停止し、業界の協力先と関連情報を共有しています。このネットワークによる経済的損失については、まだ明らかになっていません。一部の詐欺師はチャット画面上で、被害者の中には数千ドルを失った人もいると述べていました。