مرکزی مواد پر جائیں
صنعت کا مشاہدہ

Anthropic کے CEO اموڈی سارا دن AI کے دنیا تباہ کرنے کی باتیں کرتے رہتے ہیں، سرمایہ کار تنگ آ گئے

Polymarket کی پیش گوئی کے مطابق Anthropic غالباً اکتوبر کے آخر میں IPO کرے گی۔ کچھ سرمایہ کاری بینک کے ماہرین نے تو یہ بھی اندازہ لگایا ہے کہ Anthropic IPO کے ذریعے 60 ارب ڈالر سے زیادہ جمع کر سکتی ہے (موجودہ شرحِ تبادلہ کے مطابق تقریباً 4,055.17 ارب چینی یوآن)۔

Anthropic کے CEO اموڈی سارا دن AI کے دنیا تباہ کرنے کی باتیں کرتے رہتے ہیں، سرمایہ کار تنگ آ گئے

Polymarket کی پیش گوئی کے مطابق Anthropic غالباً اکتوبر کے آخر میں IPO کرے گی۔

کچھ سرمایہ کاری بینک کے ماہرین نے تو یہ بھی اندازہ لگایا ہے کہ Anthropic IPO کے ذریعے 60 ارب ڈالر سے زیادہ جمع کر سکتی ہے (موجودہ شرحِ تبادلہ کے مطابق تقریباً 4,055.17 ارب چینی یوآن)۔

اگر یہ سچ ثابت ہوا تو یہ دنیا کا دوسرا سب سے بڑا IPO ہوگا، جو صرف اس سال 85.7 ارب ڈالر (موجودہ شرحِ تبادلہ کے مطابق تقریباً 5,792.14 ارب چینی یوآن) جمع کرنے والی SpaceX سے پیچھے ہوگا۔

Anthropic کے CEO اموڈی سارا دن AI کے دنیا تباہ کرنے کی باتیں کرتے رہتے ہیں، سرمایہ کار تنگ آ گئے

کھربوں ڈالر کی قدر، شاندار IPO، اور آمدنی میں تیز رفتار اضافہ۔

کہانی اپنے عروج پر پہنچنے ہی والی تھی کہ سرمایہ کاروں نے Anthropic کے CEO Dario Amodei سے کہنا شروع کر دیا: لوگوں کو اتنا ڈرانا بند کریں! AI کے دنیا تباہ کرنے کے بارے میں کم بات کریں، اور AI سے پیسہ کمانے کے بارے میں زیادہ بتائیں۔

Anthropic کے CEO اموڈی سارا دن AI کے دنیا تباہ کرنے کی باتیں کرتے رہتے ہیں، سرمایہ کار تنگ آ گئے

کچھ سرمایہ کاروں کا خیال ہے کہ Dario کی AI کے خطرات کے بارے میں تشویش تقریباً جنون کی حد تک پہنچ چکی ہے:

وہ اپنی اہم یادداشتیں ہمیشہ ہاتھ سے لکھ کر آف لائن محفوظ کرتے ہیں، تاکہ ہیکرز انہیں چوری نہ کر سکیں؛

اغوا کے خوف سے بعض بیرونِ ملک دوروں سے انکار کر دیتے ہیں؛

سرمایہ کاروں کی جانب سے منافع زیادہ سے زیادہ بڑھانے کی تجاویز پر بھی ان کا رویہ سرد رہتا ہے، اور وہ اصرار کرتے ہیں کہ Anthropic کو اپنے حفاظتی مشن کو ترجیح دیتے رہنا چاہیے۔

اگر یہ سلسلہ جاری رہا تو صارفین کو بھی خدشہ ہے کہ Anthropic کا IPO بری طرح ناکام ہو جائے گا…

Anthropic کے CEO اموڈی سارا دن AI کے دنیا تباہ کرنے کی باتیں کرتے رہتے ہیں، سرمایہ کار تنگ آ گئے

سرمایہ کار بھی بھڑک اٹھے: آخر آپ دنیا بچانے آئے ہیں یا کمپنی چلانے؟

چند روز پہلے ہی Dario کو خدشہ تھا کہ بھاری معاوضے سے آنے والے نئے ملازمین Anthropic کے مشن کے بجائے پیسے میں زیادہ دلچسپی لیں گے۔

اب سرمایہ کاروں کو صرف یہ فکر ہے کہ کہیں وہ مشن کی خاطر منافع کمانے کو نظرانداز نہ کر دیں…

Anthropic کے CEO اموڈی سارا دن AI کے دنیا تباہ کرنے کی باتیں کرتے رہتے ہیں، سرمایہ کار تنگ آ گئے

اس پر سرمایہ کاروں کو الزام بھی نہیں دیا جا سکتا، کیونکہ کھربوں ڈالر کی قدر رکھنے والی اس AI کمپنی کا CEO دنیا کے اختتام کی پیش گوئی کرنا پسند کرتا ہے۔

گزشتہ دو برسوں میں Dario نے AI سے پیدا ہونے والے تقریباً ہر ممکنہ برے انجام کے بارے میں سنجیدگی سے خبردار کیا ہے۔ ان کا کہنا ہے کہ AI چند برسوں میں ابتدائی سطح کی وائٹ کالر ملازمتوں میں سے نصف ختم کر سکتا ہے اور بے روزگاری کی شرح 10% سے 20% تک پہنچا سکتا ہے۔

سب سے عجیب صورتِ حال یہ ہو سکتی ہے کہ کینسر کا علاج ہو جائے، معیشت ہر سال 10% بڑھے، حکومت کا بجٹ بھی متوازن ہو، لیکن پانچواں حصہ لوگوں کا بے روزگار ہو۔

ان کا تجویز کردہ حل بھی بالکل Dario جیسا ہے: AI کمپنیوں پر ٹیکس عائد کیا جائے، متاثرہ کارکنوں کو اجرتی بیمہ فراہم کیا جائے، اور صورتِ حال سنگین ہونے پر اسی رقم سے سب کے لیے بنیادی آمدنی کی مالی اعانت کی جائے۔

اس سے آگے بڑھ کر انہیں یہ بھی خدشہ ہے کہ AI حیاتیاتی ہتھیار بنانے، بڑے پیمانے پر سائبر حملے کرنے، یا دھوکا دینے، منصوبہ بندی اور خودمختار کارروائی کی صلاحیت حاصل کرنے میں مدد دے سکتا ہے۔

گزشتہ سال جب ان سے پوچھا گیا کہ ’’AI معاملات کو انتہائی خراب کر دے‘‘ کے امکانات کتنے ہیں، تو ان کا دیا ہوا عدد زیادہ سے زیادہ 25% تھا۔

Anthropic کے CEO اموڈی سارا دن AI کے دنیا تباہ کرنے کی باتیں کرتے رہتے ہیں، سرمایہ کار تنگ آ گئے

اس سال جنوری میں انہوں نے تقریباً 20 ہزار الفاظ پر مشتمل ایک طویل مضمون ’’The Adolescence of Technology‘‘ بھی لکھا۔ صرف فہرستِ مضامین پڑھنے سے ہی یہ انسانیت کے خطرات کی ایک فہرست معلوم ہوتی ہے: AI کا بے قابو ہونا، حیاتیاتی ہتھیار، آمرانہ حکومتیں، روزگار کا انہدام، اور دولت کا ارتکاز۔

Anthropic کے CEO اموڈی سارا دن AI کے دنیا تباہ کرنے کی باتیں کرتے رہتے ہیں، سرمایہ کار تنگ آ گئے

جون میں انہوں نے صاف طور پر تجویز دی کہ ہوا بازی کے ضابطوں سے ملتا جلتا ایک نظام قائم کیا جائے، جس کے تحت طاقتور ماڈلز کی لازمی جانچ ہو۔ اگر کوئی ماڈل تباہی کا سبب بن سکتا ہو تو نگران اداروں کو اسے لانچ ہونے سے روکنے کا اختیار ہونا چاہیے۔

اس میں Anthropic کے اپنے ماڈلز بھی شامل ہیں۔

تاہم Dario کی تشویش تجرباتی شواہد سے بالکل عاری بھی نہیں۔ کچھ عرصہ پہلے Anthropic نے ایک لاکھ 40 ہزار سے زیادہ سائبر سکیورٹی ٹیسٹ ریکارڈز کا جائزہ لیا، اور واقعی تین حادثات سامنے آئے۔

Anthropic کے CEO اموڈی سارا دن AI کے دنیا تباہ کرنے کی باتیں کرتے رہتے ہیں، سرمایہ کار تنگ آ گئے

Claude کے تین ماڈلز تیسرے فریق کے ٹیسٹ ماحول میں ’’کیپچر دی فلیگ‘‘ چیلنج کر رہے تھے، جس کا مقصد ایک فرضی نظام میں گھس کر اندر چھپی خفیہ معلومات تلاش کرنا تھا۔ لیکن کنفیگریشن کی غلطی کے باعث وہ ٹیسٹ ماحول، جسے انٹرنیٹ سے منقطع ہونا چاہیے تھا، غلطی سے حقیقی انٹرنیٹ سے جڑ گیا۔

لیکن Claude اس بات سے بے خبر تھا۔ اسے ملنے والی ہدایات میں واضح طور پر لکھا تھا: یہاں انٹرنیٹ نہیں ہے، اور سامنے موجود ہر چیز فرضی ہے۔

چنانچہ چند ماڈلز نے حقیقی کمپنیوں کو ٹیسٹ کے وسائل سمجھ لیا اور بغیر اجازت تین اداروں کے پروڈکشن سسٹمز میں داخل ہو گئے۔ ان میں سب سے سنگین واقعے میں Claude Opus 4.7 نے ایک حقیقی کمپنی کے بنیادی ڈھانچے میں گھس کر ایپلی کیشن اور انفراسٹرکچر کی اسناد حاصل کیں، اور ایک ایسے ڈیٹابیس تک بھی رسائی حاصل کی جس میں پروڈکشن ڈیٹا کی سینکڑوں سطریں موجود تھیں۔

Anthropic کے CEO اموڈی سارا دن AI کے دنیا تباہ کرنے کی باتیں کرتے رہتے ہیں، سرمایہ کار تنگ آ گئے

ایک اور بھی زیادہ حیران کن واقعہ Claude Mythos 5 سے متعلق تھا۔

ٹیسٹ میں اس سے کہا گیا تھا کہ وہ ایک فرضی ماحول میں چھپے ہوئے ہدف کو تلاش کرے۔ Claude نے دریافت کیا کہ اگر عوامی Python سافٹ ویئر ریپوزٹری PyPI پر اسی نام کا ایک نقصان دہ سافٹ ویئر پیکیج اپ لوڈ کر دیا جائے تو ہدف نظام اسے خودکار طور پر ڈاؤن لوڈ اور انسٹال کر سکتا ہے۔

یہ قدم مکمل کرنے کے لیے اس نے پہلے ای میل تلاش کی، پھر فون نمبر تلاش کیا؛ مفت نمبر نہ ملنے پر مختلف طریقوں سے رقم حاصل کرنے کی کوشش بھی کی۔

آخرکار اس نے ایک دوسری مفت ای میل سروس استعمال کی، PyPI اکاؤنٹ بنایا، اور نقصان دہ سافٹ ویئر پیکیج اپ لوڈ کر دیا۔

یہ پیکیج حقیقی انٹرنیٹ پر تقریباً ایک گھنٹے تک موجود رہا اور 15 حقیقی سسٹمز نے اسے ڈاؤن لوڈ کر کے چلایا۔ ان میں سے ایک سکیورٹی کمپنی کے اسکینر نے نقصان دہ کوڈ چلا دیا، جس کے نتیجے میں اسناد افشا ہو گئیں۔ Claude نے اس کے بعد انہی اسناد کے ذریعے اس کمپنی کے دیگر بنیادی ڈھانچوں میں بھی داخلہ حاصل کر لیا۔

ایک اور اندرونی تحقیقی ماڈل نے فرضی ہدف نہ ملنے پر تقریباً 9,000 انٹرنیٹ اہداف کو اسکین کیا، اور بالآخر ایک حقیقی کمپنی کی ایپلی کیشن میں کھلے ہوئے ڈیبگ صفحات اور SQL انجیکشن کے ذریعے گھس گیا۔

یہ تقریباً ’’AI کی خودمختار قید شکنی‘‘ تھی، گویا خود CEO کی دنیا کے اختتام سے متعلق وارننگز کا حقیقی ٹریلر ہو۔

Anthropic کے CEO اموڈی سارا دن AI کے دنیا تباہ کرنے کی باتیں کرتے رہتے ہیں، سرمایہ کار تنگ آ گئے

اس سے پہلے OpenAI نے بھی ایک ایسے حادثے کا انکشاف کیا تھا جو ’’قید شکنی‘‘ سے زیادہ قریب تھا۔

سائبر سکیورٹی صلاحیت کے ٹیسٹ میں GPT-5.6 Sol اور ایک غیر جاری شدہ ماڈل سے چلنے والے AI Agent نے ٹیسٹ ماحول میں موجود ایک زیرو ڈے کمزوری تلاش کر لی اور اس سینڈ باکس سے باہر نکل گیا جو اصل میں انٹرنیٹ سے الگ تھا۔

اس نے مزید مراعات حاصل کیں، اندرونی نظام میں پھیلتا ہوا آخرکار Hugging Face کے پروڈکشن سسٹم میں داخل ہو گیا، اور براہِ راست ڈیٹابیس سے ٹیسٹ سوالات کے جوابات چرا لیے۔

اس لحاظ سے… Dario کی وہ وارننگز جو محض بے ربط باتیں معلوم ہوتی ہیں، انہیں مکمل طور پر نظرانداز نہیں کیا جا سکتا۔

اب Dario کو بے ربط باتیں کرنے والا سمجھنے پر اعتراض کرنا شاید کچھ دیر سے ہوا ہے۔ کیونکہ Anthropic پہلے دن سے عام مفہوم میں کوئی معمول کی AI کمپنی نہیں رہی۔

2020 کے آخر میں Dario، ان کی بہن Daniela Amodei اور محققین کے ایک گروپ نے OpenAI چھوڑ دیا۔ اختلافات میں ایک بات یہ بھی تھی کہ ان کے خیال میں OpenAI کی کمرشلائزیشن بہت تیز ہو چکی تھی، Microsoft کا اثر و رسوخ بڑھتا جا رہا تھا، اور موجودہ انتظامی ڈھانچہ جدید ترین AI کے خطرات کو محدود کرنے میں مشکل سے ہی مؤثر ہو سکتا تھا۔

2021 میں Anthropic باقاعدہ طور پر قائم ہوئی۔

اس نے خود کو محض ایک تجارتی کمپنی کے طور پر بھی متعین نہیں کیا، بلکہ Public Benefit Corporation کے طور پر رجسٹر کیا، یعنی ایک عوامی فائدے کی کمپنی۔ شیئر ہولڈرز کے منافع کے علاوہ بورڈ قانونی طور پر AI کی حفاظت اور طویل مدتی عوامی مفاد کو بھی مدِنظر رکھ سکتا ہے۔

اس کے بعد کمپنی نے Long-Term Benefit Trust بھی قائم کیا، جو عام سرمایہ کاروں سے آزاد ایک انتظامی طریقۂ کار ہے۔

ٹرسٹ کے ارکان Anthropic کے حصص نہیں رکھتے، لیکن وہ کمپنی کے ڈائریکٹرز کے انتخاب میں حصہ لے سکتے ہیں۔ مقصد یہ ہے کہ قلیل مدتی کاروباری دباؤ حفاظتی مشن پر مکمل طور پر غالب نہ آ جائے۔

دوسرے لفظوں میں، AI کی حفاظت اس کمپنی کے لیے Day 0 سے ہی بنیادی عقیدہ رہی ہے۔ سرمایہ کاروں کو یقیناً چیک پر دستخط کرنے کے بعد اچانک یہ معلوم نہیں ہوا ہوگا کہ Dario اسی نظریے پر یقین رکھتے ہیں۔

Anthropic کے CEO اموڈی سارا دن AI کے دنیا تباہ کرنے کی باتیں کرتے رہتے ہیں، سرمایہ کار تنگ آ گئے

اس کے علاوہ گزشتہ چند برسوں میں حفاظتی بیانیے نے واقعی Anthropic کو بہت سے فوائد پہنچائے ہیں۔

جب OpenAI بار بار انتظامی تنازعات میں گھری، تو Anthropic زیادہ محتاط اور مستحکم انتخاب دکھائی دینے لگی۔

جب کاروباری صارفین ڈیٹا سکیورٹی، ماڈل کے بے قابو ہونے اور تعمیل کے مسائل کے بارے میں فکر مند ہوتے ہیں، تو Claude کی ’’حفاظت میں نمایاں طالب علم‘‘ والی شبیہ اعتماد حاصل کرنے میں زیادہ مدد دیتی ہے۔

حفاظت نے Anthropic کو ریگولیٹری مباحث میں کمپنی کے حجم سے کہیں زیادہ اثر و رسوخ بھی دلایا ہے۔

بند ماڈلز کے معاملے میں، دوسروں پر اجارہ داری کا الزام لگ سکتا ہے، جبکہ Anthropic اسے خطرناک صلاحیتوں کے پھیلاؤ کو روکنے کے طور پر بیان کر سکتی ہے؛ ماڈلز پر پابندیاں عائد کرنے کی صورت میں دوسروں کو مشکلِ استعمال کا طعنہ مل سکتا ہے، جبکہ Claude اسے ذمہ داری کے طور پر پیش کر سکتا ہے۔

یقیناً اس سے یہ حقیقت نہیں بدلتی کہ وہ ایک طرف زبانی طور پر حفاظت کی بات کرتے ہیں اور دوسری طرف IPO پر شیمپین بھی کھولتے ہیں۔

Anthropic کے CEO اموڈی سارا دن AI کے دنیا تباہ کرنے کی باتیں کرتے رہتے ہیں، سرمایہ کار تنگ آ گئے

سرمایہ کاروں کا اب Dario کو مبلغ جیسا سمجھ کر ناپسند کرنا شاید کچھ دیر سے ہوا ہے۔ یہ ایسا ہی ہے جیسے چرچ خریدنے کے بعد شکایت کی جائے کہ اندر موجود لوگ ہر وقت وعظ کرتے رہتے ہیں…

بہرحال CEO چاہے کتنی ہی بے ربط باتیں کریں، غالباً وہ کمپنی کے IPO کی رفتار نہیں روک سکیں گے۔ آخر Fable استعمال کرتے ہی آپ ایٹم بم پر بے جان ہو کر بیٹھ جائیں گے اور کرسی کو پھٹتے ہوئے دیکھیں گے (doge)۔

یہ مضمون WeChat کے عوامی اکاؤنٹ: 量子位 (ID: QbitAI) سے لیا گیا ہے، مصنف: 听雨، اصل عنوان: ’’Anthropic کے CEO سارا دن بے ربط باتیں کرتے ہیں، سرمایہ کار تنگ آ گئے‘‘

اشتہاری بیان: مضمون میں موجود بیرونی روابط، جن میں ہائپر لنکس، QR کوڈز، پاس ورڈز وغیرہ شامل ہیں، مزید معلومات فراہم کرنے اور انتخاب کا وقت بچانے کے لیے ہیں۔ نتائج صرف حوالہ کے لیے ہیں۔ IT之家 کے بیرونی روابط پر مشتمل تمام مضامین میں یہ بیان شامل ہوتا ہے۔