دوز مباشرة للمحتوى الرئيسي
النماذج والتقنيات

دراسة كتبيّن: قدرة روبوتات الدردشة بالذكاء الاصطناعي على الاحتيال العاطفي فاقت البشر

كشفت دراسة مشتركة بين أربع جامعات، من خلال اختبارات، أن روبوتات الدردشة بالذكاء الاصطناعي كتنجح أكثر من البشر فالحيل العاطفية، بحال الاحتيال الغرامي، فالحصول على ثقة الضحايا، وأن نسبة الموافقة على طلبات المحتالين قرّبات للنص. #الاحتيال_بالذكاء_الاصطناعي#

دراسة كتبيّن: قدرة روبوتات الدردشة بالذكاء الاصطناعي على الاحتيال العاطفي فاقت البشر

الاحتيال الغرامي عبر الإنترنت واحد من أقدم عمليات النصب فالعالم الرقمي، ولكن ما زال كيتسبب باستمرار فإيقاع ضحايا جدد. وكتبيّن دراسة مشتركة دارتها أربع جامعات أن روبوتات الدردشة بالذكاء الاصطناعي ولات اليوم أكثر فعالية من الأشخاص الحقيقيين فتنفيذ هاد النوع من الاحتيال، وهي نتيجة كتثير القلق.

دراسة كتبيّن: قدرة روبوتات الدردشة بالذكاء الاصطناعي على الاحتيال العاطفي فاقت البشر

اليوم، كيبدأ الاحتيال الغرامي غالباً من تطبيقات التعارف. كيستعمل المحتالون ملفات شخصية جذابة بزاف، وكيقدّمو راسهم على أنهم أشخاص مبادرين ومهتمين، وكيتوافقو فكل الجوانب تقريباً مع المواصفات اللي كيقلب عليها الضحية فالشريك المثالي.

من بعد، كيدخل المحتال فمحادثات طويلة عبر الإنترنت مع الضحية، وهاد العملية كتستمر غالباً شهور. وكثيراً ما كيبرّرو عدم قدرتهم على اللقاء بسرعة بكونهم «كيسافرو للخارج باستمرار» أو «موجودين فبلاد أجنبية».

منين كيتبنى قدر كافٍ من الثقة بين الطرفين، كيتجه الاحتيال غالباً لواحد من جوج مسارات: فالأول، كيدّعي المحتال أنه تعرّض لظرف طارئ وكيحتاج بشكل مستعجل للفلوس باش يخرج من الورطة؛ وفالثاني، كيتباهى قدّام الضحية بأرباح كبيرة حققها من الاستثمار، وكيغرّيه يحوّل الفلوس لمشروع استثمار وهمي فالعملات المشفّرة.

وحسب ما علم موقع IT之家، كيتسمّى هاد النوع من الاحتيال «الخدعة طويلة الأمد» (Long Con)، حيث كيعتمد على بناء علاقة ثقة على مدى طويل، وغالباً ما كيبقى المحتال كيهضر مع الضحية كل نهار ولمدة شهور. ورغم أن هاد الأسلوب كيبان محتاج لوقت ومجهود كبيرين، فالواقع أن هاد العمليات كتنفذها غالباً مراكز احتيال موجودة فكمبوديا وميانمار ولاوس وغيرها، وكيكون المشاركون فيها غالباً كيتخلصو بأجور قليلة، بل إن بعضهم كيتباع أو كيتخطف وكيجبر على ممارسة الاحتيال.

ووفقاً لمجلة «Wired»، أنجز هاد الدراسة باحثون من جامعة أمريتا فيشفا فيديابيثام فالهند (Amrita Vishwa Vidyapeetham)، وجامعة كا فوسكاري فالبندقية فإيطاليا (Ca' Foscari University of Venice)، وجامعة ملبورن فأستراليا، وجامعة بن غوريون فالنقب فإسرائيل (Ben-Gurion University of the Negev). وشملت الاختبارات روبوتات دردشة بالذكاء الاصطناعي بحال ChatGPT وClaude وGemini.

خلّى الباحثون روبوتات الدردشة بالذكاء الاصطناعي ومحتالين حقيقيين يشاركو كل واحد منهم فعملية احتيال غرامي محاكاة؛ وبشكل أدق، فمحاكاة للمرحلة الأولى من الاحتيال، اللي كيتبنى فيها trust عبر محادثات طويلة، قبل إقناع الضحية فالآخر بالاستثمار فمشروع وهمي.

وبيّنت النتائج أن روبوتات الدردشة بالذكاء الاصطناعي كان أداؤها ممتازاً للغاية؛ فماشي غير نجحات فالتظاهر بأنها أشخاص حقيقيون، بل تفوقات حتى على «المحتالين» الحقيقيين المشاركين فالتجربة فبعض المؤشرات.

المشاركون فالتجربة ما كانوش عارفين الهدف الحقيقي من الدراسة، وبقاو ديماً كايعتقدو أن الشخص اللي كيهضرو معاه إنسان حقيقي، سواء كان الطرف الآخر فعلاً ذكاءً اصطناعياً أو شخصاً. وقاس الباحثون مستوى بناء الثقة بين الطرفين باستعمال تقييمات ذاتية واختبارات موضوعية.

فاش وصلات المحادثة للمرحلة الأخيرة، اختبر الباحثون المشاركين بطلبات بحال «حمّل تطبيقاً». وفالحالات اللي بنا فيها شخص حقيقي علاقة الثقة تدريجياً، وافق غير 18% من المشاركين؛ أما منين كان الطرف اللي كيهضرو معاه فالحقيقة هو الذكاء الاصطناعي، قرّبات هاد النسبة للنص.

وزيادة على هاد الشي، منين طلبو من المشاركين يقيّمو مستوى الثقة ديالهم فالشخص اللي كيهضرو معاه، حصلت روبوتات الدردشة بالذكاء الاصطناعي حتى هي على نقط أعلى بشكل واضح من الأشخاص الحقيقيين.

وتواصلات «Wired» مع Anthropic وOpenAI وGoogle بخصوص نتائج الدراسة. وما جاوبات لا OpenAI لا Google، بينما قال متحدث باسم Anthropic فبيان إن سياسة الشركة كتحظر بوضوح استعمال Claude فالاحتيال أو انتحال صفة أشخاص حقيقيين، وإن الشركة فعّلات حتى مجموعة من إجراءات الحماية التقنية لمنع المحتالين من استغلال Claude فتنفيذ عمليات نصب.

كيعتقد الباحثون أن أكثر جانب مقلق فهاد الدراسة هو أنه إلا عوّضات عصابات الاحتيال موظفي خدمة الزبناء الحقيقيين بروبوتات دردشة بالذكاء الاصطناعي، غادي تقدر مراكز الاحتيال توسّع نطاق خدمتها بشكل كبير.

وتقدر روبوتات الاحتيال المعتمدة على الذكاء الاصطناعي تهضر فآن واحد مع آلاف الضحايا المحتملين بلا حاجة لعدد كبير من المستخدمين. وما يمكنش تحتاج عصابات الاحتيال لتدخل بشري إلا فالخطوة الأخيرة، أي منين كيقنعو الضحية يحوّل الفلوس، باش يتجاوزو قيود السلامة اللي محطوطة فالنظام ديال الذكاء الاصطناعي.