央视新闻报道，近期社会上出现了专门针对中老年女性的 AI 相亲骗局。不法分子利用 AI 生成所谓的相亲对象，以此骗取钱财。近日，四川成都警方捣毁了一个“AI 相亲”诈骗团伙，先后将王某等 28 名犯罪嫌疑人抓捕归案。
IT之家参考通报获悉，报案人卞女士在网络视频平台刷到一家婚介公司。在表明自己有相亲意愿后，一个账号昵称为“匹配中心王主任”的人向她发来了“李哥”的简介，详细介绍了“李哥”的个人情况，并附有一张照片。卞女士先后缴纳了 2000 元相亲服务费，但始终联系不上“李哥”，屏幕另一端的“王主任”也开始不再回复消息。
民警调查发现，与卞女士签约的公司并不存在，但在实地核查中发现了一家相似度非常高的公司。这家公司主营婚介业务，但现场没有相亲人员，也没有所谓的“红娘”，只有销售、剪辑和主播岗位。在剪辑人员的电脑上，民警看到了与报警人提供的婚恋男嘉宾资料完全一致的 AI 形象。
种种异常让民警意识到，这家公司并不是普通的婚介服务公司。随后，民警通过现场员工联系上了公司老板王某。电话中，王某表示愿意退款，但始终回避合同内容问题。虽然卞女士的退款诉求得到解决，但办案民警并未就此止步。警方连续多日蹲守老板王某的直播账号，发现所谓的“李哥”形象经常出现在画面中。
警方掌握确凿证据后，将王某等 28 名犯罪嫌疑人抓捕归案。抓捕现场，这伙人仍在使用 AI 男性形象直播，并制作了大量话术和剧本。从 AI 形象的人设塑造到台词互动，直播中的每个环节都经过精心设计。
为了加深网友的信任，网络主播还会借助变声器，冒充“有相亲需求的优质男性”进行直播连线。据调查，这家所谓的婚介公司根本不会提供真正的相亲服务。受害者缴纳服务费后，与受害者聊天的也不是那些所谓的优质男性，而是由公司售后人员继续唱“双簧戏”。
不到一年的时间里，这个团伙涉案金额高达 100 余万元，约有 50 余名群众遭受财产损失。目前，王某等 28 名犯罪嫌疑人已被公安机关依法采取刑事强制措施。
央视新闻表示，此类利用 AI 虚构人设的诈骗手法危害显而易见，更令人担忧的是，这类骗局至今仍存在于短视频平台上。平台应加强检测和预警，建立风险分级处置机制。当检测发现疑似 AI 生成、且带有婚恋交友引流特征的直播间和短视频，并出现诱导用户跳转站外、索要服务费等诈骗苗头时，平台不应仅停留在内容标记层面，还应分级采取限制措施，并按规定将诈骗线索移送公安、网信等主管部门。
专家建议，可以通过更新技术手段、加强跨平台协同治理，寻找解决问题的途径。平台不仅要严格落实 Al 生成内容标识义务，还应完善 AI 内容识别和风险控制系统，加强对高风险诈骗内容的监测预警及联动处置，从算法层面阻断推送，从源头压缩虚假信息的生存空间。对于普通用户来说，也需要筑牢自身的风险意识。面对疑似 AI 生成的内容，同样可以使用技术检测来鉴别真伪。