Theo CCTV News, gần đây đã xuất hiện những vụ lừa đảo mai mối bằng AI chuyên nhắm vào phụ nữ trung niên và cao tuổi. Kẻ xấu sử dụng AI để tạo ra hình ảnh của những đối tượng mai mối được gọi là “người thật”, từ đó lừa tiền. Gần đây, cảnh sát Thành Đô, Tứ Xuyên đã triệt phá một đường dây lừa đảo “mai mối AI”, bắt giữ tổng cộng 28 nghi phạm, trong đó có Vương.
Theo thông báo được IT之家 tham khảo, bà Biện nhìn thấy một công ty môi giới hôn nhân trên nền tảng video trực tuyến. Sau khi bày tỏ mong muốn tìm đối tượng mai mối, một tài khoản có biệt danh “Chủ nhiệm Vương của Trung tâm Ghép đôi” đã gửi cho bà thông tin giới thiệu về “anh Lý”, trong đó trình bày chi tiết tình hình cá nhân của “anh Lý” và đính kèm một bức ảnh. Bà Biện lần lượt nộp 2.000 nhân dân tệ phí dịch vụ mai mối, nhưng không thể liên lạc được với “anh Lý”, còn “Chủ nhiệm Vương” ở đầu bên kia màn hình cũng bắt đầu không trả lời tin nhắn.
Qua điều tra, cảnh sát phát hiện công ty ký hợp đồng với bà Biện không tồn tại. Tuy nhiên, khi xác minh thực địa, họ phát hiện một công ty có mức độ tương đồng rất cao. Công ty này kinh doanh dịch vụ môi giới hôn nhân, nhưng tại hiện trường không có nhân viên mai mối hay “bà mối” nào, mà chỉ có nhân viên kinh doanh, biên tập và phát trực tiếp. Trên máy tính của các nhân viên biên tập, cảnh sát nhìn thấy hình ảnh AI giống hệt hình ảnh của nam khách hàng mai mối mà người báo án cung cấp.
Hàng loạt điểm bất thường khiến cảnh sát nhận ra đây không phải là một công ty môi giới hôn nhân thông thường. Sau đó, cảnh sát đã thông qua một nhân viên tại hiện trường để liên lạc với chủ công ty là Vương. Trong cuộc điện thoại, Vương cho biết sẵn sàng hoàn tiền, nhưng luôn né tránh vấn đề liên quan đến nội dung hợp đồng. Mặc dù yêu cầu hoàn phí của bà Biện đã được giải quyết, cảnh sát phụ trách vụ án vẫn không dừng lại. Sau nhiều ngày theo dõi tài khoản phát trực tiếp của Vương, cảnh sát phát hiện hình ảnh được gọi là “anh Lý” thường xuyên xuất hiện trong khung hình.
Sau khi nắm được bằng chứng xác thực, cảnh sát đã bắt giữ Vương cùng 28 nghi phạm. Tại thời điểm bị bắt, nhóm này vẫn đang sử dụng hình ảnh nam giới do AI tạo ra để phát trực tiếp, đồng thời soạn nhiều kịch bản và lời thoại. Từ việc xây dựng hình tượng nhân vật AI đến tương tác bằng lời thoại, mọi khâu trong buổi phát trực tiếp đều được thiết kế công phu.
Để tăng cường lòng tin của cư dân mạng, các streamer còn sử dụng thiết bị biến đổi giọng nói để giả danh “những người đàn ông chất lượng cao có nhu cầu tìm bạn đời” và kết nối trực tiếp trong các buổi phát sóng. Qua điều tra, công ty môi giới hôn nhân nói trên hoàn toàn không cung cấp dịch vụ mai mối thực sự. Sau khi nạn nhân nộp phí dịch vụ, người trò chuyện với họ cũng không phải những người đàn ông chất lượng cao như quảng cáo, mà là nhân viên hậu mãi trong công ty tiếp tục phối hợp diễn “màn kịch hai người”.
Trong chưa đầy một năm, số tiền liên quan đến hoạt động phạm tội của đường dây này lên tới hơn 1 triệu nhân dân tệ, khoảng hơn 50 người bị thiệt hại tài sản. Hiện Vương cùng 28 nghi phạm đã bị cơ quan công an áp dụng các biện pháp cưỡng chế hình sự theo quy định pháp luật.
CCTV News cho biết, tác hại của thủ đoạn lừa đảo sử dụng AI để bịa đặt hình tượng nhân vật là rõ ràng. Đáng lo ngại hơn, những vụ lừa đảo như vậy vẫn tồn tại trên các nền tảng video ngắn. Các nền tảng cần tăng cường phát hiện và cảnh báo, xây dựng cơ chế xử lý phân cấp rủi ro. Khi phát hiện phòng phát trực tiếp hoặc video ngắn có dấu hiệu được tạo bằng AI, mang đặc điểm dẫn dụ người dùng tìm bạn đời, đồng thời có dấu hiệu lừa đảo như dụ người dùng chuyển sang nền tảng bên ngoài hoặc yêu cầu nộp phí dịch vụ, nền tảng không nên chỉ dừng ở việc gắn nhãn nội dung, mà cần áp dụng các biện pháp hạn chế theo từng cấp độ và chuyển manh mối liên quan đến lừa đảo cho cơ quan công an, cơ quan quản lý không gian mạng cùng các cơ quan có thẩm quyền khác theo quy định.
Chuyên gia đề xuất có thể tìm ra hướng giải quyết bằng cách cập nhật các biện pháp kỹ thuật và tăng cường quản trị phối hợp giữa các nền tảng. Các nền tảng không chỉ phải nghiêm túc thực hiện nghĩa vụ gắn nhãn nội dung do AI tạo ra, mà còn cần hoàn thiện hệ thống nhận diện và kiểm soát rủi ro đối với nội dung AI, tăng cường giám sát, cảnh báo sớm và xử lý phối hợp đối với nội dung lừa đảo rủi ro cao, chặn việc đề xuất từ cấp độ thuật toán và thu hẹp không gian tồn tại của thông tin giả ngay từ nguồn. Đối với người dùng thông thường, cần nâng cao ý thức phòng ngừa rủi ro; khi đối mặt với nội dung nghi do AI tạo ra, người dùng cũng có thể sử dụng công nghệ để kiểm tra và phân biệt thật giả.