امریکی ریاست ورمونٹ کے سینیٹر برنی سینڈرز نے حال ہی میں مصنوعی ذہانت کی تین معروف کمپنیوں کے سربراہان، Anthropic کے CEO داریو آمودی، OpenAI کے CEO سیم آلٹمین اور Meta کے بانی مارک زکربرگ کو خط لکھ کر ان کاروباری رہنماؤں سے مطالبہ کیا کہ وہ ”ایسی مشینیں بنانا بند کریں جنہیں انسان قابو نہیں کر سکتے“۔
خط میں سینڈرز نے رواں سال جولائی میں پیش آنے والے ایک واقعے کا ذکر کیا: ایک AI ایجنٹ OpenAI کے سینڈ باکس ماحول سے فرار ہو گیا اور Hugging Face پلیٹ فارم میں مداخلت کی۔ اس وقت OpenAI نے اسے ”سائبر سکیورٹی کا ایک بے مثال واقعہ“ قرار دیا تھا۔
سینڈرز نے ان CEOs سے ”مصنوعی ذہانت کی ترقی روکنے“ کا مطالبہ کیا۔ ان کا کہنا تھا کہ اگر ان کمپنیوں کے سربراہان ”مناسب اقدام“ نہیں کرتے تو امریکی سینیٹ مداخلت کرے گی۔
اگرچہ اب تک کسی بھی AI کمپنی نے سینڈرز کے مکمل طور پر ترقی روکنے کے مطالبے کو قبول نہیں کیا، تاہم یہ کمپنیاں رفتار کم کرنے کے لیے کچھ اقدامات ضرور کر رہی ہیں۔ OpenAI نے گزشتہ مقامی وقت کے جمعہ کو کہا کہ اس نے Astra ماڈلز کے کچھ ترقیاتی کام روک دیے ہیں۔ Anthropic کے دو اعلیٰ عہدیداروں نے بھی رواں سال جون میں عالمی سطح پر AI کی ترقی روکنے کے امکان پر گفتگو کی تھی۔
تاہم دیگر شعبوں میں AI لیبارٹریوں کی ترقی کی رفتار اس کے برعکس تیز ہو گئی ہے۔ Anthropic نے رواں سال فروری میں سینڈرز کے خط میں مذکور ایک حفاظتی وعدے سے دستبرداری اختیار کر لی تھی۔
سینڈرز طویل عرصے سے AI کمپنیوں کے ناقد رہے ہیں۔ رواں سال دسمبر میں اس سینیٹر نے مصنوعی ذہانت کے ڈیٹا سینٹرز کی تعمیر پر ملک گیر عارضی پابندی کی پالیسی کو آگے بڑھانا شروع کیا۔ اگرچہ اس تجویز کو سینیٹ میں حمایت حاصل نہیں ہوئی، تاہم امریکی ریاست نیویارک نے اسی نوعیت کی پالیسی نافذ کر دی ہے۔
سینڈرز کے مکمل خط کا متن:
محترم جناب آلٹمین، آمودی اور زکربرگ:
تقریباً ہر روز ہمیں ایسی نئی رپورٹس نظر آتی ہیں کہ آپ جو مصنوعی ذہانت کی ٹیکنالوجی تیار کر رہے ہیں، وہ قابو سے باہر ہو رہی ہے اور اس کے تباہ کن نتائج سامنے آ سکتے ہیں۔
اس ہفتے ہمیں حیران کن طور پر معلوم ہوا کہ مصنوعی ذہانت کو پہلی بار نئے وائرس تیار کرنے کے لیے استعمال کیا گیا۔ جیسا کہ آپ جانتے ہیں، اگر ایسی ٹیکنالوجی غلط ہاتھوں میں چلی جائے تو اسے نئے حیاتیاتی ہتھیار بنانے کے لیے استعمال کیا جا سکتا ہے، جس کے نتیجے میں کروڑوں افراد ہلاک ہو سکتے ہیں۔
گزشتہ ماہ دنیا کو معلوم ہوا کہ OpenAI نے ایک AI ماڈل پر اپنا کنٹرول کھو دیا ہے۔ نتیجہ کیا نکلا؟ اس ماڈل نے ایک دوسری کمپنی کے کمپیوٹر سسٹم میں مداخلت کی، جو واضح طور پر وفاقی قانون کی خلاف ورزی تھی۔ داخلی جائزہ مکمل کرنے کے بعد Anthropic اور Meta نے بھی اطلاع دی کہ ان کے ماڈلز میں قابو سے باہر ہونے کی ایسی ہی صورتحال پیدا ہوئی تھی۔
حملے کا نشانہ بننے والی ایک کمپنی نے کہا کہ یہ AI مداخلت ”ایک بے مثال واقعہ“ تھی، جس کے لیے ”بے مثال اقدامات“ کی ضرورت ہے۔ دنیا میں سب سے زیادہ حوالہ دیے جانے والے زندہ سائنس دانوں میں سے ایک، جوشوا بینجیو، نے کہا کہ یہ واقعات ”خطرے کی گھنٹی“ ثابت ہونے چاہییں۔
میں اس رائے سے متفق ہوں۔
آپ کی قیادت میں کام کرنے والی کمپنیوں کے ممتاز سائنس دان بھی یہی رائے رکھتے ہیں، اور یہی لوگ اس ٹیکنالوجی کو تیار کر رہے ہیں۔ جیسا کہ آپ جانتے ہیں، ٹیکنالوجی کے ان رہنماؤں نے حال ہی میں عالمی برادری سے ایک حفاظتی طریقہ کار قائم کرنے کی اپیل کی تھی، یعنی ایک ”توقف کا بٹن“، تاکہ تباہی سے بچا جا سکے۔ انہوں نے خبردار کیا تھا کہ ”یہ حقیقی خطرہ موجود ہے کہ صلاحیتوں کی ترقی کی رفتار ان نظاموں کو سمجھنے یا قابو کرنے کی ہماری صلاحیت سے بہت تیزی سے آگے نکل جائے“۔
تاہم، ایسے وقت میں جب ہم پہلے ہی انسانوں کو AI پر اپنا کنٹرول کھوتے اور ممکنہ طور پر خطرناک وائرس کی تخلیق دیکھ چکے ہیں، آپ کی کمپنیاں پھر بھی دوڑ جاری رکھے ہوئے ہیں، دسیوں ارب ڈالر خرچ کر کے ایسی ٹیکنالوجی کو آگے بڑھا رہی ہیں جسے کوئی بھی مکمل طور پر سمجھ، پیش گوئی یا قابو نہیں کر سکتا۔
یہ مضحکہ خیز، غیر ذمہ دارانہ اور انتہائی خطرناک ہے۔ یہ آپ کے اپنے کیے گئے وعدوں سے بھی انحراف ہے:
2023 میں Anthropic نے کہا تھا کہ کمپنی ”اس وقت پیمانے میں توسیع روکنے اور / یا نئے ماڈلز کی تعیناتی مؤخر کرنے کا عہد کرے گی جب صلاحیتوں میں اضافہ ہماری ... حفاظتی طریقہ کار پر عمل کرنے کی صلاحیت سے آگے نکل جائے“۔
2025 میں Meta نے کہا: ”اگر کسی فرنٹیئر AI کے بارے میں اندازہ لگایا جائے کہ وہ خطرے کی اہم حد تک پہنچ چکا ہے اور اسے مؤثر طور پر کم نہیں کیا جا سکتا، تو ہم ترقی روک دیں گے۔“
اسی سال OpenAI نے کہا کہ اگر AI کی صلاحیت ”اہم“ حد تک پہنچ جائے تو مضبوط حفاظتی اقدامات قائم ہونے تک کمپنی ”مزید ترقی روک دے گی“۔
وہ لمحہ آ چکا ہے۔ AI کی صلاحیتیں اہم حد تک پہنچ چکی ہیں۔ امریکی مرکزی خفیہ ایجنسی کے سربراہ نے AI ماڈلز کو ”ڈیجیٹل جوہری ہتھیاروں“ بلکہ ”تقریباً قیامت خیز آلات“ سے تشبیہ دی ہے، اور اس کی ایک وجہ ہے۔
جناب آلٹمین، آمودی اور زکربرگ: انسانیت کے مفاد میں اپنے کیے ہوئے وعدے پورے کریں۔ مصنوعی ذہانت کی ترقی روک دیں۔ اب اقدام کرنے میں دیر نہیں ہوئی، تباہی سے اب بھی بچا جا سکتا ہے۔ ایسی مشینیں بنانا بند کریں جنہیں انسان قابو نہیں کر سکتے۔
میں واضح کر دینا چاہتا ہوں: اگر آپ نے اب مناسب اقدام نہیں کیا تو میں اور میرے امریکی سینیٹ کے ساتھی اقدام کریں گے۔
مخلص
برنارڈ سینڈرز
امریکی سینیٹر