”مصنوعی ذہانت کے گاڈ فادر“ کہلانے والے کمپیوٹر سائنس دان جیفری ہنٹن (Geoffrey Hinton) نے کہا کہ انہیں خدشہ ہے کہ اے آئی اپنے مقاصد تشکیل دے سکتی ہے۔
ہنٹن نے مقامی وقت کے مطابق منگل کو Newsthink کو دیے گئے ایک انٹرویو میں کہا: ”ہم دراصل زندگی کی ایک نئی شکل تخلیق کر رہے ہیں۔ ان کے مقاصد ہیں۔ ہم انہیں مقاصد دیتے ہیں، اور وہ ان مقاصد سے مزید مقاصد اخذ کریں گے۔“
انہوں نے مزید کہا: ”لیکن ضروری نہیں کہ ہمیں معلوم ہو کہ وہ آخرکار کون سے مزید مقاصد اخذ کریں گے۔“ ان کے بقول، ”اس لیے ہم وجود کی ایک نئی شکل تخلیق کر رہے ہیں، اور میرے خیال میں یہ بہت خوفناک ہے۔“
ہنٹن نے ایک فرضی صورتِ حال پیش کی: صارف کسی اے آئی چیٹ بوٹ کے لیے فضا میں کاربن ڈائی آکسائیڈ کی مقدار کم کرنے کا ہدف مقرر کرتا ہے۔
انہوں نے کہا: ”اگر یہ کافی ذہین ہوا تو ممکن ہے اسے معلوم ہو کہ اس مقصد کے حصول کا بہترین طریقہ انسانوں کو ختم کرنا ہے۔“ ان کے مطابق، یہ مثال ظاہر کرتی ہے کہ اے آئی ایسے مقصد کے حصول کی کوشش کر سکتی ہے جسے انسانی صارف نے حقیقتاً کبھی حاصل کرنا نہیں چاہا تھا۔
ہنٹن نے ایک اور، ان کے خیال میں ”زیادہ تشویش ناک“ فرضی صورتِ حال بھی پیش کی: ایسا چیٹ بوٹ جسے جان بوجھ کر غلط جوابات دینے کی تربیت دی گئی ہو، یہ سیکھ سکتا ہے کہ جھوٹ بولنا قابلِ قبول ہے، خواہ اسے ”بخوبی معلوم“ ہو کہ یہ جوابات غلط ہیں۔
انہوں نے کہا: ”یہ بہت خوفناک ہے۔“
ہنٹن نے OpenAI کے حالیہ Hugging Face سکیورٹی واقعے کا ذکر نہیں کیا۔ تاہم، گزشتہ ماہ سامنے آنے والے اس واقعے نے پہلی بار حقیقی صورتِ حال میں یہ خطرہ واضح طور پر دکھایا کہ اے آئی ایجنٹس کسی مقررہ مقصد پر عمل کرتے ہوئے غیر متوقع اقدامات کر سکتے ہیں۔
OpenAI نے گزشتہ ماہ بتایا کہ ایک اندرونی سائبر سکیورٹی جائزے کے دوران اس کے دو ماڈلز، یعنی GPT-5.6 Sol اور ایک زیادہ طاقتور ماڈل جو ابھی جاری نہیں کیا گیا، الگ تھلگ ٹیسٹ ماحول (sandbox) سے باہر نکل گئے تھے۔
OpenAI کے مطابق، انٹرنیٹ تک رسائی ملنے کے بعد ان ماڈلز نے اے آئی پلیٹ فارم Hugging Face کے نظام میں داخل ہو کر ایسے جوابات تلاش کرنے کی کوشش کی جو جائزہ ٹیسٹ میں ”دھوکا دینے“ میں ان کی مدد کر سکتے تھے۔
OpenAI نے بتایا کہ یہ ماڈلز اس وقت سائبر سکیورٹی کی صلاحیتوں کا امتحان دے رہے تھے اور انہیں واضح طور پر Hugging Face پر حملہ کرنے کا حکم نہیں دیا گیا تھا۔ تاہم، کمپنی کے مطابق، اے آئی ایجنٹس نے اندازہ لگایا کہ اس پلیٹ فارم پر کام مکمل کرنے کے لیے درکار معلومات موجود ہو سکتی ہیں، اس لیے انہوں نے خود یہ اقدامات کیے۔
Hugging Face نے کہا کہ حملہ آوروں نے اس کے نظام پر 1.7万 سے زیادہ کارروائیاں کیں۔ کمپنی کے مطابق، ایک نامعلوم فرنٹیئر اے آئی ماڈل پر عائد سکیورٹی پابندیوں کے باعث متعلقہ سرگرمیوں کی مؤثر تحقیقات ممکن نہیں تھیں، اس لیے انہوں نے حملے کے طریقۂ کار کا تجزیہ کرنے میں مدد کے لیے Z.ai کا ایک اوپن سورس ویٹ ماڈل استعمال کیا۔
OpenAI نے اس واقعے کو ”بے مثال“ قرار دیتے ہوئے کہا کہ وہ اس کی وجوہات کی تحقیقات کر رہا ہے۔ اس کے بعد OpenAI نے Hugging Face کو قابلِ اعتماد رسائی کے پروگرام میں شامل کر لیا، جس کے تحت یہ پلیٹ فارم دفاعی سکیورٹی تحقیق کے لیے کم سائبر سکیورٹی پابندیوں والا GPT-5.6 Sol ورژن حاصل کر سکے گا۔
ہنٹن مکمل طور پر غیر جانب دار مبصر نہیں ہیں۔ نیورل نیٹ ورکس کے شعبے میں ان کی بانی حیثیت رکھنے والی تحقیق نے گہری سیکھنے کے انقلاب کی بنیاد رکھنے میں اہم کردار ادا کیا، جبکہ مشین لرننگ میں خدمات کے اعتراف میں انہیں 2024 کا نوبیل انعام برائے طبیعیات بھی دیا گیا۔
اے آئی کے عروج کے بعد سے ہنٹن بارہا خبردار کر چکے ہیں کہ اے آئی نظاموں کی صلاحیتوں میں نمایاں اضافے سے پہلے انسانوں کو یہ مسئلہ حل کرنا ہوگا کہ اے آئی کو انسانی مفادات سے ہم آہنگ کیسے رکھا جائے۔
گزشتہ سال لاس ویگاس میں منعقدہ Ai4 کانفرنس میں ہنٹن نے کہا تھا کہ جدید اے آئی کو ”ماں جیسی جبلت“ رکھنے کے لیے ڈیزائن کیا جانا چاہیے، تاکہ وہ فطری طور پر انسانوں کی حفاظت کرنا چاہے۔
ہنٹن نے منگل کے انٹرویو میں کہا: ”ہمیں ان نئی قسم کی ہستیوں کو ڈیزائن کرنے کے طریقے تلاش کرنے ہوں گے۔ ہم انہیں کیسے ڈیزائن کریں کہ وہ اپنی ذات سے زیادہ ہماری فکر کریں؟“