بحسب ما أوردته أخبار التلفزيون المركزي الصيني، ظهرت مؤخرا في المجتمع عمليات احتيال في التعارف بالذكاء الاصطناعي تستهدف النساء المسنات ومتوسطات العمر بشكل خاص، إذ يستعمل المحتالون أشخاصا مزعومين للتعارف مولَّدين بالذكاء الاصطناعي بهدف الاحتيال على أموالهن. ومؤخرا، فككت شرطة تشنغدو في سيتشوان عصابة للاحتيال تحت اسم «التعارف بالذكاء الاصطناعي»، وألقت القبض تباعا على 28 مشتبها فيه، من بينهم وانغ.
وعلمت دار تكنولوجيا المعلومات من البلاغ أن السيدة بيان عثرت على شركة زواج عبر منصة فيديوهات على الإنترنت. وبعدما أوضحت رغبتها في التعارف، أرسل لها شخص يحمل حسابه اسم «المدير وانغ من مركز المطابقة» نبذة عن «الأخ لي»، تتضمن معلومات مفصلة عنه وصورة له. دفعت السيدة بيان على مراحل 2000 يوان مقابل خدمة التعارف، لكنها لم تتمكن من التواصل مع «الأخ لي» بأي شكل، كما بدأ «المدير وانغ» في الطرف الآخر من الشاشة يتوقف عن الرد على رسائلها.
اكتشف رجال الشرطة من خلال التحقيق أن الشركة التي وقعت معها السيدة بيان العقد غير موجودة، لكن التحقق الميداني أظهر وجود شركة شبيهة بها إلى حد كبير. كانت هذه الشركة تزاول أساسا نشاط الوساطة للزواج، غير أنه لم يكن في عين المكان أي أشخاص راغبين في التعارف ولا ما يسمى «خاطبات»، بل فقط موظفو المبيعات والتحرير والبث. وعلى حواسيب موظفي التحرير، رأى رجال الشرطة صورا مولَّدة بالذكاء الاصطناعي مطابقة تماما لبيانات الرجال المرشحين للتعارف التي قدمتها المبلِّغة.
أدرك رجال الشرطة من خلال هذه المخالفات أن الشركة ليست شركة عادية لخدمات الوساطة في الزواج. وبعد ذلك، تواصلوا عبر أحد الموظفين الموجودين في عين المكان مع مالك الشركة وانغ. وأوضح وانغ خلال مكالمة هاتفية أنه مستعد لإرجاع المال، لكنه ظل يتجنب الإجابة عن مضمون العقد. ورغم حل طلب السيدة بيان استرداد أموالها، لم يتوقف المحققون عند هذا الحد. ومن خلال مراقبة حساب المالك وانغ الذي كان يبث مباشرة على مدى أيام، اكتشفت الشرطة أن صورة «الأخ لي» المزعومة كانت تظهر باستمرار في المشهد.
وبعد أن جمعت الشرطة أدلة قاطعة، ألقت القبض على وانغ و27 مشتبها فيه آخرين. وعند تنفيذ الاعتقال، كانت هذه المجموعة لا تزال تستعمل صور رجال مولَّدة بالذكاء الاصطناعي للبث، كما أعدت العديد من العبارات والسيناريوهات. فمن بناء شخصية الصورة المولَّدة بالذكاء الاصطناعي إلى التفاعل عبر الكلام، كان كل عنصر في البث المباشر مصمما بعناية.
ولتوطيد ثقة مستخدمي الإنترنت، كان مقدمو البث يستعينون أيضا بمغير الصوت وينتحلون صفة «رجال جيدين يرغبون في التعارف» لإجراء بث مباشر معهم. ووفقا للتحقيق، فإن شركة الزواج المزعومة هذه لا تقدم أي خدمة تعارف حقيقية. فبعد أن يدفع الضحايا رسوم الخدمة، لا يكون الذين يجرون معهم المحادثات أولئك الرجال الجيدين المزعومين، بل موظفو خدمة ما بعد البيع داخل الشركة، الذين يواصلون أداء «مسرحية مزدوجة» معهم.
وخلال أقل من سنة، بلغت قيمة الأموال المرتبطة بجرائم هذه العصابة أكثر من مليون يوان، وتكبد نحو 50 شخصا خسائر مالية. وحاليا، اتخذت أجهزة الأمن العام، وفقا للقانون، تدابير قسرية جنائية بحق وانغ و27 مشتبها فيه آخرين.
وقالت أخبار التلفزيون المركزي الصيني إن خطورة أساليب الاحتيال التي تستعمل شخصيات مختلقة بالذكاء الاصطناعي واضحة، والأكثر إثارة للقلق أن هذا النوع من العمليات ما زال موجودا على منصات الفيديوهات القصيرة. وينبغي للمنصات تعزيز الرصد والإنذار، وإنشاء آلية للتعامل مع المخاطر حسب مستوياتها. وعندما يكشف الرصد عن غرف بث مباشر أو فيديوهات قصيرة يُشتبه في توليدها بالذكاء الاصطناعي وتحمل خصائص لاستدراج المستخدمين إلى التعارف والزواج، مع ظهور مؤشرات احتيال مثل توجيه المستخدمين إلى خارج المنصة أو طلب رسوم خدمة، فلا ينبغي للمنصة أن تكتفي بوضع وسم على المحتوى، بل عليها أيضا فرض قيود تدريجية، وإحالة خيوط الاحتيال، وفقا للقواعد، إلى الجهات المختصة مثل الأمن العام والفضاء السيبراني.
ويقترح الخبراء تحديث الوسائل التقنية وتعزيز الحوكمة التعاونية بين المنصات من أجل إيجاد سبل لحل المشكلة. ولا يكفي أن تلتزم المنصات بصرامة بواجب وضع علامات على المحتوى المولَّد بالذكاء الاصطناعي، بل ينبغي لها أيضا تحسين أنظمة التعرف على محتوى الذكاء الاصطناعي وإدارة مخاطره، وتعزيز رصد المحتوى الاحتيالي عالي الخطورة والإنذار به والتعامل معه بشكل منسق، ووقف التوصية به خوارزميا، وتقليص المجال المتاح للمعلومات الكاذبة منذ مصدرها. أما المستخدمون العاديون، فعليهم ترسيخ وعيهم بالمخاطر، كما يمكنهم استعمال أدوات تقنية للتحقق من صحة المحتوى الذي يُشتبه في توليده بالذكاء الاصطناعي.