استعمال نماذج الذكاء الاصطناعي لتدريب نماذج أخرى ديال الذكاء الاصطناعي ولى كيشكل واحد من الاتجاهات اللي كتركز عليها مختبرات الذكاء الاصطناعي من الجيل الجديد. نهار 28 بالتوقيت المحلي، عرض واحد من الباحثين فبرنامج الباحثين ديال Anthropic كيفاش ممكن يبان هاد التصور منين كيتطبق فعلياً.
Anthropic نشرت آخر ورقة بحثية ديالها بعنوان «Automated researchers can reliably mitigate alignment failures»، وكتشرح كيفاش يمكن استعمال أنظمة الذكاء الاصطناعي لتحسين أداء النماذج فمجموعة من الاختبارات المعيارية ديال المواءمة. فريق البحث دار اختبارات على 10 سلوكيات محددة مرتبطة بعدم المواءمة، وفالأخير قدر النظام الآلي يحسّن المؤشرات العشرة كاملين، بلا ما يضحي بالقدرات العامة ديال النموذج.
هاد النظام طوّروه أعضاء برنامج الباحثين ديال Anthropic بقيادة تشن يويهانا (نطق تقريبي)، وسير العمل ديالو مشابه للبحث العلمي التقليدي. كيبدا النظام الآلي بمراجعة الأدبيات الموجودة، وكيقترح طريقة للتدريب، ومن بعد كيدرّب النموذج حسب الخطة لمدة 30 دقيقة، وكيحسّن نتائج الاختبارات تدريجياً عبر جولات متعددة من المحاولات. الطرق الفعّالة كاتبقى، واللي ما خداماش كاتتحيد، وبهذا كتقدر عملية البحث تكبر بسرعة.
كتقول الورقة إنه، بصفة عامة، هاد النتائج كتبرهن بشكل أولي على أن التدريب اللاحق الآلي للمواءمة يقدر يولي فالقريب طريقة قابلة للتطبيق فعلاً.
هاد البحث حتى هو خطوة فطريق التحسين الذاتي التكراري، اللي كيشوفو بزاف ديال الناس كمرحلة مهمة جاية فمسار تطور الذكاء الاصطناعي. إلا قدرات نماذج الذكاء الاصطناعي تحسّن طرق التدريب ديالها على المواءمة، فماشي مستحيل أنها تحسّن من بعد عمليات التدريب الأوسع. ومنين نوصلو لهاد المرحلة، ممكن الباحثين البشر فالذكاء الاصطناعي يبداو تدريجياً يفقدو الحاجة لوجودهم.
الورقة قارنت بشكل مباشر حتى بين الباحث الآلي فالمواءمة (AAR) والباحثين البشر، وقالت: «أحسن طرق AAR كتحتاج فالمتوسط غير 6 ساعات باش تفوت الطرق اللي اقترحوها باحثون بشر عندهم تجربة. والاتجاهات البحثية اللي كيقودها البشر ما كتؤديش لأداء أقوى.»
الفرق فالكلفة واضح حتى هو. «كل ساعة ديال AAR كتحتاج غير تقريباً 4 دولارات من كلفة الاستدلال عبر واجهة API (ملاحظة: حسب سعر الصرف الحالي، حوالي 27 يوان صيني)، فحين أن المبلغ اللي كنخلصوه للباحثين البشر هو 150 دولار فالساعة (حسب سعر الصرف الحالي، حوالي 1,011 يوان صيني).»
ولكن هاد الطريقة ما زال عندها قيود واضحة. فعالية النظام الآلي كتعلق أولاً بواش الاختبارات المعيارية كتعبّر بدقة على أهداف المواءمة الحقيقية، وحتى إلا كانت الاختبارات موثوقة، فإن إعداد هاد الاختبارات والحفاظ عليها على المدى الطويل ما زال كيتطلب استثمارات كبيرة. والأدبيات البحثية اللي كيعتمد عليها الباحث الآلي خاصها حتى هي صيانة وتوسيع مستمرين.
المرجع
Automated researchers can reliably mitigate alignment failures