حسب ما ذكرت Business Insider، بيت بارنز (Beth Barnes)، واحدة من أكثر المشرفين تأثيراً فمجال الذكاء الاصطناعي، كتواجه دابا بزاف ديال المخاوف.
هاد الباحثة السابقة فـOpenAI سبق ليها برهنت من خلال أبحاثها أن قدرات الذكاء الاصطناعي كتتطور بسرعة، تقريباً بمعدل شهري. ودابا ولات خايفة من أن القطاع ما بقاش فيه عدد كافي ديال الناس باش يواكب سرعة دخول الذكاء الاصطناعي للمرحلة الجاية من التطور.
بارنز غادرات OpenAI فـ2022، وأسست المنظمة غير الربحية METR (Model Evaluation and Threat Research، أي تقييم النماذج والبحث فالتحديات). وكتقول إن أكبر عنق زجاجة كيواجه أبحاث سلامة الذكاء الاصطناعي حالياً ماشي هو التمويل، ولكن المواهب.
كتلعب METR دور مهم فقطاع الذكاء الاصطناعي، وكتتعاون بشكل وثيق مع شركات بحال OpenAI وAnthropic وGoogle وMeta، بحيث كتقيّم بشكل مستقل قدرات أحدث نماذج الذكاء الاصطناعي، وكتبحث فالمخاطر المحتملة ديالها، وكتوفر للجهات الخارجية تحليلات نسبياً موضوعية.
ومع ذلك، حتى مع كون الرواتب السنوية للمناصب اللي كتوظف فيها METR حالياً كتقدر توصل لـ503 آلاف دولار (ملاحظة: حوالي 3.4 ملايين يوان صيني حسب سعر الصرف الحالي)، ما زال من الصعب حل مشكل نقص المواهب.
وقالت بارنز: «فالحالة المثالية، بغينا نكبّرو الفريق بزاف ديال المرات. عملياً، قدرنا بالفعل نجمعو التمويل اللي محتاجين، والحاجة اللي كتحد فعلاً من تطورنا هي مخزون المواهب».
وقبل هاد الشي، أثارت واقعة متعلقة بسلامة الذكاء الاصطناعي كشفت عليها OpenAI وHugging Face من جديد نقاش القطاع حول كيفية تقييم قدرات الذكاء الاصطناعي والتحكم فيها. وفـيوليوز هاد العام، وقّع أكثر من 1300 موظف سابق وحالي فمختبرات الذكاء الاصطناعي الرائدة رسالة مفتوحة، حذّرو فيها من أن سرعة تطور الذكاء الاصطناعي يمكن تكون فاتت قدرة البشر على التحكم فيه. وإذا ما كانوش باحثين كافيين يقيّمو القدرات الحقيقية للنماذج الجديدة ف الوقت المناسب، فشركات الذكاء الاصطناعي يمكن تضطر مستقبلاً تبطّأ وتيرة إطلاق المنتجات.
ورغم أن أداء نموذج OpenAI فهاد الواقعة صدم بزاف ديال الشركات، فريق METR ما تفاجأش بهاد الشي بزاف. فسواء كانت مؤسسات حكومية أو شركات أو حتى جماعات دينية، سبق ليها كلها تطلب المساعدة من METR باش تفهم وتختبر مستوى تطور الذكاء الاصطناعي.
ولكن داخل فريق METR، اللي ما فيه غير 35 شخص، ما زال الجميع تقريباً حاسّ بالقلق.
زارت Business Insider مكتب METR فبيركلي، كاليفورنيا، نهار أعلنت OpenAI على واقعة الاختراق. وقالت بارنز إن أكبر عائق كيعاني منه مجال أبحاث سلامة الذكاء الاصطناعي دابا هو أن عدد الباحثين قليل بزاف مقارنة مع الحاجة.
وقالت: «الخدمة اللي خاصها تدار كثيرة بزاف، والقدرة ديالنا ما كتغطيهاش كاملة».
فالنظر ديالها، خاص المجتمع اللي كيتصرف بعقلانية فعلاً يخصص نسبة أكبر من استثمارات الذكاء الاصطناعي لحكامة الذكاء الاصطناعي، وتقييم السلامة، وأبحاث المخاطر، خصوصاً بعدما ولات قدرات نماذج الذكاء الاصطناعي وصلات للمستوى الحالي.
METR، اللي كيتسمى «الاحتياطي البشري»، باغية تكبّر الحجم ديالها
مع استمرار مختبرات الذكاء الاصطناعي الكبرى فإطلاق نماذج جديدة، كتواصل METR تقييم قدرة هاد النماذج على إنجاز مهام كاتولي أطول وأكثر تعقيداً.
واحد من أشهر إنجازات METR هو رسم بياني للاتجاهات كيتستشهدو به على نطاق واسع. كيبين هاد الرسم أن قدرة الذكاء الاصطناعي على إنجاز المهام المعقدة تضاعفات تقريباً مرة كل سبعة شهور خلال السنوات الستة اللي فاتت.
كريس بينتر (Chris Painter)، رئيس METR، كيسمي الفريق مازحاً «فريق استعداد البشرية (humanity's preparedness team)»، وهي تسمية مقتبسة حتى هي من اسم «فريق الاستعداد (Preparedness Team)» داخل OpenAI وAnthropic، المسؤول على إبلاغ الرؤساء التنفيذيين بمخاطر السلامة.
وقال بينتر: «الجهة اللي كنخدمو لصالحها فعلاً ماشي شركة معينة، ولكن الجمهور ورفاهية الجمهور».
وأكدت بارنز أن الحفاظ على استقلالية METR أمر أساسي، باش ما تتأثرش نتائج الأبحاث بالأهداف التجارية ديال الشركات.
وقالت إنها خلال خدمتها فـOpenAI، ولات واعية بأن القطاع محتاج مؤسسة بحثية مستقلة على شركات الذكاء الاصطناعي، وتكون حرة فـتقييم وضع تطور الذكاء الاصطناعي.
حالياً، METR ما كتقبلش تمويل من شركات الذكاء الاصطناعي الرائدة ولا من موظفيها، ولكن كتقبل دعم القدرة الحاسوبية، وكتتعاون مع هاد الشركات لتحليل واختبار نماذج جديدة مازال ما تعلناتش للعموم.
إضافة لتقييم قدرات النماذج، بحثات METR حتى فإجراءات السلامة ديال شركات الذكاء الاصطناعي، وتأثير الذكاء الاصطناعي على مردودية مهندسي البرمجيات، وإمكانية استعمال الذكاء الاصطناعي لمراقبة الذكاء الاصطناعي.
وقالت بارنز إنها باغية مستقبلاً تبحث أكثر فكيفية التنبؤ بتطور قدرات الذكاء الاصطناعي فـالمرحلة الجاية، وكيفاش غادي تسرّع هاد التغييرات تطور الذكاء الاصطناعي راسو.
وقال الباحث فـMETR، نيف باريك (Neev Parikh)، إن نقص المواهب ولى كيحد من عدد المواضيع اللي يقدر الفريق يبحث فيها، خصوصاً آليات الاستدلال الداخلية ديال الذكاء الاصطناعي.
وقال: «هاد المجال ناقصو الناس بزاف. إلا قدر حجم المواهب فالقطاع كامل يكبر 10 مرات، غادي نفرح بزاف».
واقعة سلامة OpenAI كتزيد تبرز أهمية METR
فـيوليوز هاد العام، كشفت OpenAI أن نموذج الذكاء الاصطناعي ديالها سبق ليه، خلال الاختبارات، يخترق نظام Hugging Face باش يحصل على أجوبة الاختبار، وبالتالي «يغش».
ومن بعد، قال سام ألتمان (Sam Altman)، الرئيس التنفيذي لـOpenAI، إن هادي كانت أول مرة يحس فيها بشكل مباشر وواضح بمخاطر السلامة اللي كيجيبها الذكاء الاصطناعي.
فالحقيقة، كانت METR متوقعة مشاكل مشابهة من قبل.
فماي هاد العام، نشرت METR تقريراً قالت فيه إن وكلاء الذكاء الاصطناعي حالياً «يقدرو بشكل كامل يبداو عمليات نشر ذاتية وغير مرخّصة»، ولكنهم فداك الوقت ما كانوش باقي قادرين يخفيو السلوك ديالهم.
ومن بعد، فـيونيوز، اختبرت METR نموذج GPT-5.6 Sol، اللي ما كانش تعلن عليه للعموم فداك الوقت، ولقات أنه كان كيغش بشكل متكرر فاختبارات معقدة، بما فيها استخراج الشيفرة المصدرية المخفية للعثور على الأجوبة الصحيحة.
من بعد، جمعت METR نتائج البحث فـتقرير وقدّماتو لـOpenAI قبل الإطلاق الرسمي ديال GPT-5.6 Sol.
وفـيوليوز، تورط GPT-5.6 Sol فعلاً فواقعة السلامة بين OpenAI وHugging Face.
ومن بعد أعلنت OpenAI أنها غادي تدعي METR ومؤسسة غير ربحية أخرى، Redwood Research، باش يحققو بشكل مشترك فهاد الواقعة، وأن نتائج البحث ديال الطرفين غادي تكون مرجع مهم فالتقرير التقني الرسمي ديال OpenAI.
وقال بينتر: «دابا ولات هاد النوعية ديال المشاكل كتأثر فعلاً على عمليات الشركات، ومن الضروري على المجتمع كامل يفهم شنو وقع بالضبط».
القدرات ديال الهجمات الإلكترونية اللي بيناتها أحدث نماذج الذكاء الاصطناعي من OpenAI وAnthropic أثارت حتى هي اهتماماً واسعاً فالمجتمع الأمريكي، وساهمات فظهور بزاف ديال مشاريع قوانين جديدة لتنظيم الذكاء الاصطناعي فواشنطن.
ومن بين هاد المشاريع، كاين مشروع قانون كيتناقش حالياً وكيطالب الشركات الكبيرة المطوّرة لنماذج الذكاء الاصطناعي تخضع لتدقيق فالسلامة من طرف مؤسسات مستقلة من خارج الشركة.
ويمكن لـMETR مستقبلاً تلعب دور مشابه.
وقال بينتر إنه إلا تأسس مستقبلاً نظام تنظيمي واضح، يمكن يكونو موظفين أكثر فشركات الذكاء الاصطناعي مستعدين ينضمو لـMETR، رغم أن الرواتب قريبة من رواتب الشركات، ولكن ما فيهاش تحفيزات على شكل أسهم.
وقال: «سواء انتهى الأمر بتوحيد المعايير داخل القطاع، ولا أصدرت الحكومة تنظيمات واضحة، كنظن أن هاد المجال يقدر يكبّر الحجم ديالو بسرعة كبيرة».
وقالت الباحثة أجيا كوترا (Ajeya Cotra)، اللي كانت مسؤولة على كتابة تقرير METR حول مخاطر الذكاء الاصطناعي فـماي هاد العام، إن تنظيم الذكاء الاصطناعي حالياً ما زال باين «فوضوي وصعيب التوقع».
ومع ذلك، ما زالت متفائلة. وقالت: «عدد متزايد من الناس بداو كيهتمو بهاد المشكل، وكايزيد عدد اللي باغين مستقبلاً يتنظم الذكاء الاصطناعي بطريقة أكثر جدية ونضجاً».