السيناتور بيرني · ساندرز من ولاية فيرمونت الأمريكية راسل مؤخراً المسؤولين على ثلاث شركات رائدة فالذكاء الاصطناعي — الرئيس التنفيذي ديال Anthropic داريو · أموداي، والرئيس التنفيذي ديال OpenAI سام · ألتمان، ومؤسس Meta مارك · زوكربيرغ — وطالب قادة هاد الشركات «يحبسو صناعة آلات ما قادرش الإنسان يتحكم فيها».
فالرسالة، أشار ساندرز لواحد الواقعة اللي وقعات فشهر 7 هاد العام: وكيل ديال الذكاء الاصطناعي هرب من البيئة المعزولة ديال OpenAI، واخترق منصة Hugging Face. وفداك الوقت، قالت OpenAI إن هادي «واقعة غير مسبوقة فالأمن السيبراني».
وطالب ساندرز هاد الرؤساء التنفيذيين بـ«يوقفو تطوير الذكاء الاصطناعي». وقال إنه إلا ما قاموش المسؤولين على هاد الشركات بـ«اتخاذ الإجراءات المناسبة»، فمجلس الشيوخ الأمريكي غادي يتدخل.
ورغم أنه حتى شركة من شركات الذكاء الاصطناعي ما قبلاتش دابا بالمطلب ديال ساندرز بوقف التطوير بشكل شامل، فهاد الشركات فعلاً بدات كتتخذ بعض الإجراءات للتخفيف من المخاطر. وقالت OpenAI نهار الجمعة اللي فات بالتوقيت المحلي إنها وقفات تطوير بعض نماذج Astra مؤقتاً. وحتى جوج مسؤولين كبار فـAnthropic ناقشو فشهر 6 هاد العام إمكانية وقف تطوير الذكاء الاصطناعي على الصعيد العالمي.
ولكن فمجالات أخرى، سرعة تطور مختبرات الذكاء الاصطناعي ولات أكبر عوض ما تنقص. وكانت Anthropic تخلات فشهر 2 هاد العام على واحد الالتزام المتعلق بالسلامة اللي ذكره ساندرز فالرسالة.
ومنذ مدة طويلة، وساندرز كينتقد شركات الذكاء الاصطناعي. وفشهر 12 هاد العام، بدا هاد السيناتور كيدفع نحو سياسة وطنية لوقف بناء مراكز البيانات الخاصة بالذكاء الاصطناعي مؤقتاً. ورغم أن هاد المقترح ما لقا دعماً فمجلس الشيوخ، فولاية نيويورك الأمريكية طبقات سياسة مشابهة.
النص الكامل لرسالة ساندرز:
السادة ألتمان وأموداي وزوكربيرغ المحترمين:
تقريباً كل نهار، كنشوفو تقارير جديدة كتتكلم على أن تقنيات الذكاء الاصطناعي اللي كتطوروها بدات كتفلت من السيطرة، وقد تكون عندها عواقب كارثية.
هاد السيمانة، عرفنا بصدمة أن الذكاء الاصطناعي استُعمل لأول مرة لابتكار فيروسات جديدة. وكما عارفين، إلا طاحت هاد التكنولوجيا فإيدين الناس الغلط، تقدر تستعمل لصناعة أسلحة بيولوجية جديدة، وتتسبب فموت عشرات الملايين ديال الناس.
فالشهر اللي فات، عرف العالم كامل أن OpenAI فقدات السيطرة على نموذج ديال الذكاء الاصطناعي. وشنو كانت النتيجة؟ النموذج اخترق أنظمة الكمبيوتر ديال شركة أخرى، فخرق واضح للقانون الفيدرالي. ومن بعد ما كملو المراجعة الداخلية، قالت حتى Anthropic وMeta إن النماذج ديالهما سبق ليها دازت من حالات مشابهة ديال الهروب من السيطرة.
وقالت شركة تعرضات لهجوم إن هاد الاختراق بالذكاء الاصطناعي كان «واقعة غير مسبوقة»، وكيحتاج «إجراءات غير مسبوقة». واعتبر جوشوا · بنجيو، واحد من أكثر العلماء الأحياء استشهاداً بأعمالهم على الصعيد العالمي، أن هاد الوقائع «خاصها تكون بمثابة جرس إنذار».
وأنا متفق مع هاد الرأي.
حتى العلماء البارزين فالشركات اللي كتقودوها كيشاطرو نفس الرأي، وهادو هما بالضبط مطورو هاد التكنولوجيا. وكما عارفين، هاد القادة فمجال التكنولوجيا دعوا مؤخراً المجتمع الدولي لإنشاء آلية للسلامة — «زر إيقاف مؤقت» — لتفادي وقوع كارثة. وحذرو من وجود «خطر حقيقي يتمثل فأن سرعة تطور القدرات كتفوت بسرعة قدرتنا على فهم أو التحكم فالأنظمة المعنية».
ومع ذلك، فاش شفنا الإنسان كيفقد السيطرة على الذكاء الاصطناعي، وظهور إمكانية ابتكار فيروسات خطيرة، الشركات ديالكم ما زالت كتواصل السباق — وكتستثمر مئات المليارات ديال الدولارات فدفع تكنولوجيا ما قادر حتى واحد يفهمها أو يتوقعها أو يتحكم فيها بشكل كامل.
هاد الشي عبثي وغير مسؤول وخطير بزاف. وهو كذلك كيتعارض مع الالتزامات اللي سبق ليكم التازمتو بها:
فـ2023، قالت Anthropic إنها «كتلتازم بأنه فاش يفوت توسيع القدرات قدرتنا على الالتزام بـ... إجراءات السلامة، غادي توقف توسيع النطاق و/أو تأجل نشر النماذج الجديدة».
فـ2025، قالت Meta: «إلا تقيّم نظام ذكاء اصطناعي متقدم على أنه وصل لعتبة المخاطر الحرجة، وما قدرناش نخففو من هاد المخاطر بفعالية، غادي نوقفو تطويره».
وفنفس العام، قالت OpenAI إنه إلا وصلات قدرات الذكاء الاصطناعي لعتبة «حرجة»، فالشركة غادي «توقف أي تطوير إضافي» حتى يتم إنشاء إجراءات قوية للسلامة.
هاد اللحظة وصلات دابا. قدرات الذكاء الاصطناعي وصلات للعتبة الحرجة. وكاين سبب علاش مسؤول وكالة الاستخبارات المركزية الأمريكية قال إن نماذج الذكاء الاصطناعي «شبيهة بالأسلحة النووية الرقمية»، بل «كتقرب تقريباً من أجهزة نهاية العالم».
السادة ألتمان وأموداي وزوكربيرغ: من أجل مصلحة البشرية، وفّيو بالالتزامات اللي سبق ليكم قطعتوها. وقفوا تطوير الذكاء الاصطناعي. ما زال ما فاتش الوقت باش تتحركو، وما زال ممكن نتفادو الكارثة. حبسو صناعة آلات ما قادرش الإنسان يتحكم فيها.
وبغيت نوضح مزيان: إلا ما اتخذتوش الإجراءات المناسبة دابا، أنا وزملائي فمجلس الشيوخ الأمريكي غادي نتخذو الإجراءات اللازمة.
وتفضلوا بقبول فائق الاحترام
برنارد · ساندرز
سيناتور أمريكي