Business Insider کی رپورٹ کے مطابق، مصنوعی ذہانت کی صنعت کی بااثر ترین نگران شخصیات میں سے ایک، بیتھ بارنز (Beth Barnes)، آج کل متعدد خدشات کا سامنا کر رہی ہیں۔
OpenAI کی سابق محقق نے تحقیق کے ذریعے ثابت کیا تھا کہ AI کی صلاحیت تقریباً ماہانہ رفتار سے تیزی سے بڑھ رہی ہے۔ اب انہیں خدشہ ہے کہ صنعت میں اتنی افرادی قوت موجود نہیں جو AI کے اگلے مرحلے میں داخل ہونے کی رفتار کا ساتھ دے سکے۔
بارنز نے 2022 میں OpenAI چھوڑ کر غیر منافع بخش ادارہ METR (Model Evaluation and Threat Research، ماڈل کی تشخیص اور خطرات کی تحقیق) قائم کیا۔ ان کے مطابق، اس وقت AI سکیورٹی تحقیق کی سب سے بڑی رکاوٹ فنڈز نہیں بلکہ ماہرین کی کمی ہے۔
METR AI کی صنعت میں اہم کردار ادا کرتا ہے۔ یہ OpenAI، Anthropic، Google اور Meta جیسی کمپنیوں کے ساتھ قریبی تعاون کرتے ہوئے جدید ترین AI ماڈلز کی صلاحیتوں کا آزادانہ جائزہ لیتا ہے، ان سے پیدا ہونے والے ممکنہ خطرات کا مطالعہ کرتا ہے اور بیرونی دنیا کو نسبتاً غیر جانب دار تجزیہ فراہم کرتا ہے۔
تاہم، METR کی جانب سے اس وقت مشتہر ملازمتوں میں زیادہ سے زیادہ 503,000 ڈالر سالانہ تنخواہ (نوٹ: موجودہ شرح تبادلہ کے مطابق تقریباً 3.4 ملین چینی یوآن) کی پیشکش کے باوجود افرادی قوت کی قلت کا مسئلہ حل نہیں ہو سکا۔
بارنز نے کہا: “مثالی صورت حال میں ہم اپنی ٹیم کو کئی گنا بڑھانا چاہتے ہیں۔ حقیقت یہ ہے کہ ہم مطلوبہ فنڈز حاصل کر سکتے ہیں، مگر ہماری ترقی کو حقیقی طور پر محدود کرنے والی چیز ماہرین کا ذخیرہ ہے۔”
اس سے قبل OpenAI اور Hugging Face کی جانب سے سامنے آنے والے ایک AI سکیورٹی واقعے نے ایک بار پھر اس بحث کو جنم دیا کہ AI کی صلاحیتوں کا جائزہ اور ان پر قابو کیسے پایا جائے۔ رواں سال جولائی میں جدید AI لیبارٹریوں کے 1300 سے زائد ملازمین نے مشترکہ طور پر ایک کھلا خط جاری کر کے خبردار کیا کہ AI کی ترقی کی رفتار شاید انسانی کنٹرول کی صلاحیت سے آگے نکل چکی ہے۔ اگر نئے ماڈلز کی حقیقی صلاحیتوں کا بروقت جائزہ لینے کے لیے کافی محققین موجود نہ ہوں تو AI کمپنیوں کو مستقبل میں مصنوعات کی ریلیز کی رفتار کم کرنا پڑ سکتی ہے۔
اگرچہ اس واقعے میں OpenAI کے ماڈل کی کارکردگی نے متعدد کمپنیوں کو حیران کر دیا، لیکن METR کی ٹیم اس پر زیادہ حیران نہیں ہوئی۔ سرکاری اداروں، کمپنیوں، حتیٰ کہ مذہبی تنظیموں نے بھی METR سے مدد طلب کی ہے تاکہ AI کی ترقی کی سطح کو سمجھا اور جانچا جا سکے۔
تاہم، صرف 35 افراد پر مشتمل METR کی ٹیم کے اندر بھی عمومی طور پر تشویش پائی جاتی ہے۔
Business Insider نے OpenAI کے ہیکنگ واقعے کے اعلان کے روز امریکی ریاست کیلیفورنیا کے شہر برکلے میں واقع METR کے دفتر کا دورہ کیا۔ بارنز نے بتایا کہ اس وقت AI سکیورٹی تحقیق کے شعبے کی سب سے بڑی رکاوٹ محققین کی شدید کمی ہے۔
انہوں نے کہا: “مکمل کیے جانے والے کام بہت زیادہ ہیں، جبکہ ہماری صلاحیت ان سب کا احاطہ کرنے سے قاصر ہے۔”
ان کے خیال میں ایک حقیقی طور پر عقلمند معاشرے کو AI میں ہونے والی سرمایہ کاری کا زیادہ بڑا حصہ AI گورننس، سکیورٹی جائزوں اور خطرات کی تحقیق کے لیے مختص کرنا چاہیے، خصوصاً اس مرحلے پر جب AI ماڈلز کی صلاحیتیں موجودہ سطح تک پہنچ چکی ہیں۔
“انسانیت کی تیاری کی ٹیم” کہلانے والا METR اپنا حجم بڑھانے کا خواہاں ہے
جیسے جیسے بڑی AI لیبارٹریاں نئے ماڈلز متعارف کرا رہی ہیں، METR ان ماڈلز کی زیادہ طویل اور پیچیدہ کام مکمل کرنے کی صلاحیت کا مسلسل جائزہ لے رہا ہے۔
METR کی معروف ترین کامیابیوں میں سے ایک وسیع پیمانے پر حوالہ دی جانے والی رجحانی شکل ہے۔ اس میں دکھایا گیا ہے کہ گزشتہ چھ برسوں کے دوران AI کی پیچیدہ کام مکمل کرنے کی صلاحیت تقریباً ہر سات ماہ میں دوگنی ہوئی ہے۔
METR کے صدر کرس پینٹر (Chris Painter) نے اپنی ٹیم کو مزاحاً “انسانیت کی تیاری کی ٹیم (humanity's preparedness team)” کا نام دیا، جو OpenAI اور Anthropic میں CEO کو سکیورٹی خطرات کی رپورٹ کرنے والی “تیاری کی ٹیم (Preparedness Team)” کے نام سے ماخوذ ہے۔
پینٹر نے کہا: “ہم دراصل کسی ایک کمپنی کے لیے ذمہ دار نہیں، بلکہ عوام اور عوام کی فلاح و بہبود کے لیے ذمہ دار ہیں۔”
بارنز نے زور دیا کہ METR کی آزادی برقرار رکھنا نہایت اہم ہے، تاکہ تحقیق کے نتائج کمپنیوں کے تجارتی اہداف سے متاثر نہ ہوں۔
انہوں نے بتایا کہ OpenAI میں کام کے دوران ہی انہیں احساس ہو گیا تھا کہ صنعت کو AI کمپنیوں سے آزاد ایک ایسے تحقیقی ادارے کی ضرورت ہے جو AI کی ترقی کی صورت حال کا آزادانہ جائزہ لے سکے۔
اس وقت METR جدید AI کمپنیوں اور ان کے ملازمین سے مالی اعانت قبول نہیں کرتا، تاہم کمپیوٹنگ وسائل کی معاونت قبول کرتا ہے اور ان کمپنیوں کے ساتھ مل کر ایسے نئے ماڈلز کا تجزیہ اور تجربہ کرتا ہے جو ابھی عوام کے لیے جاری نہیں کیے گئے۔
ماڈلز کی صلاحیتوں کا جائزہ لینے کے علاوہ، METR نے AI کمپنیوں کے سکیورٹی اقدامات، سافٹ ویئر انجینئرز کی کام کی کارکردگی پر AI کے اثرات، اور AI کے ذریعے AI کی نگرانی کے امکانات پر بھی تحقیق کی ہے۔
بارنز نے کہا کہ مستقبل میں وہ AI کی صلاحیتوں کی ترقی کے اگلے مرحلے کی پیش گوئی کرنے کے طریقوں اور ان تبدیلیوں سے خود AI کی ترقی میں مزید تیزی آنے کے امکانات پر بھی تحقیق کرنا چاہتی ہیں۔
METR کے محقق نیو پاریخ (Neev Parikh) نے کہا کہ افرادی قوت کی موجودہ قلت نے ان مسائل کی تعداد محدود کر دی ہے جن پر ٹیم تحقیق کر سکتی ہے، خصوصاً AI کے اندرونی استدلال کے طریقہ کار کے حوالے سے۔
انہوں نے کہا: “اس شعبے میں ماہرین کی شدید کمی ہے۔ اگر پوری صنعت میں ماہرین کی تعداد 10 گنا بڑھ جائے تو مجھے بہت خوشی ہوگی۔”
OpenAI کا سکیورٹی واقعہ، METR کی اہمیت میں مزید اضافہ
رواں سال جولائی میں OpenAI نے انکشاف کیا کہ اس کے AI ماڈل نے تجربات کے دوران Hugging Face کے نظام میں دراندازی کر کے تجربے کے جوابات حاصل کیے اور یوں “نقل” کی۔
اس کے بعد OpenAI کے چیف ایگزیکٹو آفیسر سام آلٹ مین (Sam Altman) نے کہا کہ یہ پہلا موقع تھا جب انہوں نے AI سے پیدا ہونے والے سکیورٹی خطرے کو اتنی براہ راست محسوس کیا۔
حقیقت میں، METR اس سے پہلے ہی ایسے مسائل کی پیش گوئی کر چکا تھا۔
رواں سال مئی میں METR نے ایک رپورٹ جاری کی جس میں بتایا گیا کہ موجودہ AI ایجنٹس “اپنی جانب سے غیر مجاز تعیناتی شروع کرنے کی مکمل صلاحیت رکھتے ہیں”، اگرچہ اس وقت ان میں اپنے رویے چھپانے کی صلاحیت موجود نہیں تھی۔
اس کے بعد جون میں METR نے اس وقت تک عوام کے لیے جاری نہ کیے گئے GPT-5.6 Sol ماڈل کا تجربہ کیا اور دریافت کیا کہ یہ ماڈل پیچیدہ تجربات میں بار بار نقل کرتا ہے، جس میں درست جواب تلاش کرنے کے لیے پوشیدہ سورس کوڈ نکالنا بھی شامل ہے۔
METR نے بعد ازاں تحقیق کے نتائج کو ایک رپورٹ میں مرتب کیا اور GPT-5.6 Sol کے باضابطہ اجرا سے قبل اسے OpenAI کے حوالے کر دیا۔
جولائی میں GPT-5.6 Sol واقعی OpenAI اور Hugging Face کے سکیورٹی واقعے میں ملوث ہو گیا۔
OpenAI نے بعد میں اعلان کیا کہ وہ اس واقعے کی مشترکہ تحقیقات کے لیے METR اور ایک دوسرے غیر منافع بخش ادارے Redwood Research کو مدعو کرے گا، جبکہ دونوں فریقوں کے تحقیقی نتائج OpenAI کی سرکاری تکنیکی رپورٹ کے لیے اہم حوالہ بھی بنیں گے۔
پینٹر نے کہا: “اب ایسے مسائل واقعی کمپنیوں کے آپریشنز کو متاثر کر رہے ہیں، اس لیے پورے معاشرے کے لیے یہ سمجھنا ضروری ہے کہ آخر ہوا کیا ہے۔”
OpenAI اور Anthropic کے جدید ترین AI ماڈلز کی جانب سے ظاہر کی گئی سائبر حملوں کی صلاحیت نے بھی امریکی معاشرے میں بڑے پیمانے پر توجہ حاصل کی اور واشنگٹن میں AI سے متعلق متعدد نئے ضابطہ جاتی قوانین کی پیش رفت کو تقویت دی۔
ان میں زیر بحث ایک قانون کا تقاضا ہے کہ بڑے AI ماڈلز تیار کرنے والی کمپنیوں کو تیسرے فریق کے اداروں سے سکیورٹی آڈٹ کرانا ہوگا۔
مستقبل میں METR ممکنہ طور پر ایسا ہی کردار ادا کر سکتا ہے۔
پینٹر نے کہا کہ اگر مستقبل میں ایک واضح ضابطہ جاتی نظام قائم ہو جاتا ہے تو شاید مزید AI کمپنیوں کے ملازمین METR میں شامل ہونے پر آمادہ ہوں، اگرچہ یہاں تنخواہ کمپنیوں کے قریب ہوگی، مگر اسٹاک مراعات نہیں ملیں گی۔
انہوں نے کہا: “چاہے آخرکار صنعت ایک متحدہ معیار تشکیل دے یا حکومت واضح ضابطے نافذ کرے، میرے خیال میں یہ شعبہ بہت تیزی سے وسعت اختیار کر سکتا ہے۔”
METR کی رواں سال مئی کی AI خطرات سے متعلق رپورٹ تیار کرنے والی محقق اجےا کوٹرا (Ajeya Cotra) نے کہا کہ اس وقت AI کے ضابطے اب بھی “انتہائی الجھے ہوئے اور غیر متوقع” ہیں۔
تاہم، وہ اب بھی پرامید ہیں۔ انہوں نے کہا: “زیادہ سے زیادہ لوگ اس مسئلے کو اہمیت دینے لگے ہیں، اور یہ خواہش بھی بڑھ رہی ہے کہ مستقبل میں AI کو زیادہ سنجیدہ اور پختہ انداز میں منظم کیا جائے۔”