AI ماڈلز کے ذریعے دیگر AI ماڈلز کو تربیت دینا نئی نسل کی AI لیبارٹریوں کی توجہ کا اہم موضوع بنتا جا رہا ہے۔ مقامی وقت کے مطابق 28 تاریخ کو Anthropic کے تحقیقی پروگرام کے ایک محقق نے دکھایا کہ اس تصور کے عملی شکل اختیار کرنے کے بعد یہ کیسا ہو سکتا ہے۔
Anthropic نے اپنا تازہ مقالہ 《خودکار محققین قابلِ اعتماد انداز میں الائنمنٹ کی ناکامیوں کو کم کر سکتے ہیں》 شائع کیا، جس میں بتایا گیا ہے کہ AI نظام کو استعمال کرتے ہوئے ماڈل کی متعدد الائنمنٹ بینچ مارک ٹیسٹوں میں کارکردگی کیسے بہتر بنائی جا سکتی ہے۔ تحقیقی ٹیم نے 10 مخصوص غیر ہم آہنگ رویوں کے لیے ٹیسٹ تیار کیے۔ خودکار نظام نے آخرکار تمام 10 اشاریوں میں بہتری پیدا کی، جبکہ ماڈل کی مجموعی صلاحیت متاثر نہیں ہوئی۔
یہ نظام Anthropic کے تحقیقی پروگرام کے رکن چن یوہان (صوتی ترجمہ) کی قیادت میں تیار کیا گیا، اور اس کا طریقۂ کار روایتی سائنسی تحقیق سے مشابہ ہے۔ خودکار نظام پہلے موجودہ تحقیق کا مطالعہ کرتا ہے، تربیتی طریقے تجویز کرتا ہے، پھر ان تجاویز کے مطابق ماڈل کو 30 منٹ تک تربیت دیتا ہے اور متعدد کوششوں کے ذریعے ٹیسٹ کے نتائج بتدریج بہتر بناتا ہے۔ مؤثر طریقے برقرار رہتے ہیں جبکہ ناکام طریقے ختم کر دیے جاتے ہیں، جس سے پورے تحقیقی عمل کو تیزی سے بڑے پیمانے پر وسعت دی جا سکتی ہے۔
مقالے میں کہا گیا ہے کہ مجموعی طور پر یہ نتائج ابتدائی طور پر ثابت کرتے ہیں کہ خودکار الائنمنٹ پوسٹ ٹریننگ مستقبل قریب میں واقعی قابلِ عمل طریقہ بن سکتی ہے۔
یہ تحقیق تکراری خود بہتری کی جانب بھی ایک قدم ہے، جسے بہت سے لوگ AI کی ترقی کا اگلا اہم مرحلہ سمجھتے ہیں۔ اگر AI ماڈل اپنے الائنمنٹ ٹریننگ کے طریقوں کو بہتر بنا سکیں، تو تربیت کے زیادہ وسیع عمل میں مزید بہتری بھی ناممکن نہیں ہوگی۔ اس مرحلے پر انسانی AI محققین کی ضرورت بھی بتدریج ختم ہو سکتی ہے۔
مقالے میں خودکار الائنمنٹ محققین (AAR) اور انسانی محققین کی کارکردگی کا براہِ راست موازنہ بھی کیا گیا ہے: “بہترین AAR طریقوں کو اوسطاً صرف 6 گھنٹے درکار ہوتے ہیں تاکہ وہ تجربہ کار انسانی محققین کے تجویز کردہ طریقوں سے بہتر کارکردگی دکھا سکیں۔ انسانی رہنمائی پر مبنی تحقیقی سمت زیادہ مضبوط کارکردگی کا باعث نہیں بنتی۔”
لاگت کا فرق بھی نمایاں ہے۔ “AAR کے لیے فی گھنٹہ تقریباً 4 ڈالر (نوٹ: موجودہ شرحِ تبادلہ کے مطابق تقریباً 27 یوآن) کی API استدلال لاگت درکار ہوتی ہے، جبکہ ہم انسانی محققین کو فی گھنٹہ 150 ڈالر (موجودہ شرحِ تبادلہ کے مطابق تقریباً 1,011 یوآن) ادا کرتے ہیں۔”
تاہم اس طریقے کی کچھ واضح حدود اب بھی موجود ہیں۔ خودکار نظام کی کارکردگی سب سے پہلے اس بات پر منحصر ہے کہ بینچ مارک ٹیسٹ حقیقی الائنمنٹ اہداف کی درست عکاسی کرتے ہیں یا نہیں۔ ٹیسٹ قابلِ اعتماد ہونے کے باوجود ان بینچ مارکس کو تیار کرنے اور طویل مدت تک برقرار رکھنے کے لیے اب بھی بڑی سرمایہ کاری درکار ہے۔ خودکار محققین جن تحقیقی مقالوں پر انحصار کرتے ہیں، انہیں بھی مسلسل برقرار رکھنے اور وسعت دینے کی ضرورت ہوگی۔
حوالہ
Automated researchers can reliably mitigate alignment failures