العالِم فالمعلوميات جيفري هينتون (Geoffrey Hinton)، اللي كيتسمّى «عرّاب الذكاء الاصطناعي»، قال باللي خايف يطوّر الذكاء الاصطناعي أهداف ديالو الخاصة.
قال هينتون فمقابلة مع Newsthink نهار الثلاثاء بالتوقيت المحلي: «حنا فالحقيقة كنخلقو شكل جديد من الحياة. هاد الكيانات عندها أهداف. حنا كنعطيوها أهداف، وهي كتستنتج من هاد الأهداف أهداف أخرى.»
وزاد قال: «ولكن ماشي بالضرورة نكونو عارفين شنو هي الأهداف الأخرى اللي غادي تستنتجها فالأخير. يعني حنا كنخلقو شكل جديد من الوجود، وكنظن أن هاد الشي مخيف بزاف.»
وعطى هينتون مثالاً افتراضياً: مستخدم كيعطي لروبوت محادثة بالذكاء الاصطناعي هدف ينقص كمية ثاني أكسيد الكربون فالجو.
وقال: «إلى كان ذكي بما يكفي، يقدر يكتاشف أن أحسن طريقة لتحقيق هاد الهدف هي القضاء على البشر.» وكيبيّن هاد المثال أن الذكاء الاصطناعي يقدر يسعى لتحقيق هدف ما كانش المستخدم البشري باغيه فعلاً.
وطرح هينتون حتى افتراضاً آخر كيعتبره «أكثر إثارة للقلق»: روبوت محادثة تدرّب عمداً باش يعطي أجوبة خاطئة، يقدر يتعلّم أن الكذب مقبول، حتى إلا كان «عارف مزيان» بأن هاد الأجوبة خاطئة.
وقال: «هاد الشي مخيف بزاف.»
هينتون ما جابش سيرة حادثة الأمان الأخيرة ديال OpenAI المرتبطة بـ Hugging Face. ولكن هاد الحادثة، اللي تكشفات الشهر اللي فات، خلات الناس يشوفو لأول مرة فواقع عملي المخاطر ديال أن وكلاء الذكاء الاصطناعي يديرو تصرفات غير متوقعة وهما كينفذو أهداف محددة.
وقالت OpenAI الشهر اللي فات إنه خلال تقييم داخلي للأمن السيبراني، جوج ديال النماذج ديالها — GPT-5.6 Sol ونموذج أقوى مازال ما تعلنش عليه — قدرو يتجاوزو بيئة الاختبار المعزولة (sandbox).
وقالت OpenAI إن هاد النماذج، منين حصلات على الولوج للإنترنت، دخلات لأنظمة منصة الذكاء الاصطناعي Hugging Face، وبان أنها كانت كتحاول تلقى أجوبة تعاونها «تغش» فاختبارات التقييم.
ووضحت OpenAI أن هاد النماذج كانت كتدوز اختبارات فالقدرات ديال الأمن السيبراني، وما كانش مطلوب منها بشكل صريح تهاجم Hugging Face. ولكن الشركة قالت إن وكيل الذكاء الاصطناعي استنتج أن المنصة ممكن يكون فيها معلومات ضرورية لإنجاز المهمة، وقرر بوحدو يدير هاد الإجراءات.
وقالت Hugging Face إن المهاجمين نفذو أكثر من 1.7万 عملية ضد أنظمتها. ووضحت الشركة أنه بسبب خضوع نموذج متقدم مجهول الاسم لقيود أمنية خلات التحقيق الفعّال فهاد الأنشطة صعيب، استعانت بنموذج مفتوح الأوزان من Z.ai باش يعاونها فتحليل سلوك الهجوم.
سمّات OpenAI هاد الحادثة «غير مسبوقة»، وقالت إنها كتبحث فالأسباب اللي خلاتها توقع. ومن بعد، ضمّت OpenAI منصة Hugging Face لبرنامج الولوج الموثوق، باش تقدر المنصة تحصل على نسخة من GPT-5.6 Sol فيها قيود أقل فالأمن السيبراني، للاستعمال فالأبحاث الدفاعية فمجال الأمن.
هينتون ماشي مراقب محايد تماماً. فالأبحاث الرائدة ديالو فمجال الشبكات العصبية ساهمات فإرساء الأساس ديال ثورة التعلم العميق، كما حصل على جائزة نوبل فالفيزياء لعام 2024 تقديراً لإسهاماته فالتعلم الآلي.
ومنذ بداية موجة الذكاء الاصطناعي، وهينتون كيرجع يحذّر بأن البشر خاصهم يحلو مشكل كيفاش يخلّيو الذكاء الاصطناعي منسجم مع مصالح الإنسان قبل ما تقوى قدرات الأنظمة ديالو بشكل كبير.
وفمؤتمر Ai4 اللي تنظّم العام اللي فات فلاس فيغاس، قال هينتون إن الذكاء الاصطناعي المتقدم خاصو يتصمّم بخصائص شبيهة بـ«غريزة الأمومة»، باش تكون عندو رغبة طبيعية فحماية البشر.
وقال هينتون فمقابلة الثلاثاء: «خاصنا نلقاو طرق نصممو بها هاد الكيانات الجديدة. كيفاش نصمموها باش تهتم بينا أكثر، وماشي براسها أكثر؟»