GLM-5.3-FlashX آپریشن میں

GLM-5.3-FlashX ژی ژی کی جانب سے پیش کیا گیا ایک تیز رفتار استدلالی ماڈل ہے، جس کی آؤٹ پٹ رفتار زیادہ سے زیادہ 200 tokens/s ہے۔ یہ GLM-5.3-Flash کے مقابلے میں 5 گنا تیز اور قیمت میں 2.5 گنا زیادہ ہے، جبکہ API دستیاب ہے۔ ماڈل 100,000 مقامی چپس کی کمپیوٹنگ طاقت پر مبنی ہے۔ GLM-5.3 سے چلنے والے Agent نے استدلالی انفراسٹرکچر کو دو ہفتوں کے اندر خودکار طور پر مکمل کیا، اور اینڈ ٹو اینڈ تھروپٹ ابتدائی بیس لائن کے 3 گنا تک پہنچ گیا۔ ماڈل کا ہدف یکساں حجم میں بہترین ذہانت اور انتہائی اعلیٰ لاگت کی افادیت ہے، جس سے ذہانت، قیمت اور رفتار میں جامع مسابقتی برتری حاصل ہوتی ہے۔ یہ تاخیر کے حوالے سے حساس حقیقی وقت کی باہمی تعامل اور Agent کی اعلیٰ تعدد والی کالز کے لیے موزوں ہے۔

تیز رفتار متن کی تخلیق: آؤٹ پٹ رفتار زیادہ سے زیادہ 200 tokens/s ہے، جو GLM-5.3-Flash سے 5 گنا زیادہ ہے۔
گفتگو کی تکمیل کا API: bigmodel.cn کے ذریعے معیاری API دستیاب ہے، جبکہ Model Key، GLM-5.3-FlashX ہے۔
آن لائن تجربہ: آفیشل ویب سائٹ کا تجرباتی مرکز بصری آزمائش کا راستہ فراہم کرتا ہے، جس کے لیے تنصیب ضروری نہیں۔
حقیقی وقت میں Agent باہمی تعامل: کم تاخیر کی خصوصیت اعلیٰ تعدد والی کالز اور اسٹریمنگ آؤٹ پٹ والے ذہین Agent کے منظرناموں کے لیے موزوں ہے۔
اعلیٰ لاگت کی افادیت والا استدلال: یکساں حجم میں بہترین ذہانت برقرار رکھتے ہوئے، 2.5 گنا قیمت پر 5 گنا رفتار فراہم کرتا ہے۔

مقامی چپس پر مبنی استدلالی کمپیوٹنگ: ماڈل 100,000 مقامی چپس سے بنے استدلالی کلسٹر پر چلتا ہے۔ Infra میں مسلسل سرمایہ کاری اور استدلالی اصلاح کے ذریعے بڑے پیمانے کی ہم وقت کالز کے دوران تیز اور مستحکم آؤٹ پٹ کو یقینی بنایا جاتا ہے۔
Agent کے ذریعے Infra کی تعمیر: مکمل استدلالی نظام GLM-5.3 سے چلنے والے Agent نے خودکار طور پر بنایا۔ انسان اہداف طے کرنے، حدود مقرر کرنے اور اہم تبدیلیوں کا جائزہ لینے کا ذمہ دار ہے، جبکہ Agent خودکار طور پر ٹیسٹنگ، لاگز کا تجزیہ، Trace کی جانچ اور کوڈ کی اصلاح مکمل کرتا ہے۔ اس طرح «گھنے فیڈبیک» کا چکر تشکیل پاتا ہے اور دو ہفتوں سے بھی کم عرصے میں اینڈ ٹو اینڈ تھروپٹ میں 3 گنا اضافہ حاصل ہوا۔
طویل سیاق و سباق کے استحکام کے لیے درستگی کی اصلاح: KDA کے CP راستے کے لیے، FP32 ان پٹ کے بطور ڈیفالٹ TF32 حساب میں جانے سے پیدا ہونے والی غلطیوں کے جمع ہونے کے مسئلے کو حل کیا گیا۔ input_precision="tf32x3" کو واضح طور پر مقرر کر کے طویل سیاق و سباق کی درستگی بہتر بنائی گئی، اور یہ اصلاح Flash Linear Attention کے اپ اسٹریم میں واپس شامل کر دی گئی۔
KV Transfer کی ہم وقتی اصلاح: DeepEP v1.2.1 میں C++ کال کے GIL جاری نہ کرنے اور Python جانب Mooncake Transfer تھریڈ کو روکنے کے مسئلے کی نشاندہی کی گئی۔ اصلاح کے بعد Prefill بمعہ منتقلی اور علیحدہ Prefill کی کارکردگی کا فرق 20% سے زیادہ سے کم ہو کر 1% سے بھی کم رہ گیا۔
KDA Decode آپریٹر میں غیر ضروری کام کا خاتمہ: V کے طول و عرض کے مطابق بلاکنگ سے پیدا ہونے والی چار بار دہرائی جانے والی FP32 نارملائزیشن اور گیٹنگ کیلکولیشن کو ایک ہی تھریڈ بلاک میں ضم کیا گیا، جبکہ درمیانی نتائج کو بیچ میں پہلے سے شمار کر کے شیئر کیا گیا۔ آپریٹر کی کارکردگی اصلاح سے پہلے کے مقابلے میں 1.71 گنا ہو گئی۔

اکاؤنٹ رجسٹر کریں: API کال کی ویب سائٹ https://docs.bigmodel.cn/api-reference/ پر جائیں اور اکاؤنٹ رجسٹر کر کے لاگ اِن کریں۔
API Key حاصل کریں: کنسول میں اپنی API Key بنائیں اور کاپی کریں۔
ماڈل کا نام پکا کریں: کال کرتے وقت Model Key، GLM-5.3-FlashX استعمال کریں۔
API کال: آفیشل دستاویزات، یعنی گفتگو کی تکمیل کے انٹرفیس، سے رجوع کریں۔ درخواست میں model فیلڈ کو GLM-5.3-FlashX مقرر کر کے درخواست بھیجیں۔
آن لائن تجربہ (اختیاری): تجرباتی مرکز https://www.bigmodel.cn/trialcenter/modeltrial/visual?modelCode=glm-5.3-flashx پر جائیں اور تنصیب کے بغیر براہِ راست آزمائیں۔
ایپلی کیشن سے مربوط کریں: API کو اپنی ایپلی کیشن یا Agent ورک فلو میں شامل کریں اور حقیقی وقت کے باہمی تعامل کے منظرناموں کو 200 tokens/s کی تیز رفتار آؤٹ پٹ سے سنبھالیں۔

انتہائی رفتار: آؤٹ پٹ رفتار زیادہ سے زیادہ 200 tokens/s ہے، جو GLM-5.3-Flash سے 5 گنا زیادہ ہے۔
ذہانت پر کوئی سمجھوتا نہیں: طویل مدت تک یکساں حجم میں بہترین ذہانت برقرار رہتی ہے، اور رفتار میں اضافہ ماڈل کی صلاحیت کی قربانی پر نہیں ہوتا۔
اعلیٰ لاگت کی افادیت: 2.5 گنا قیمت کے بدلے 5 گنا رفتار، جس سے فی یونٹ ذہانت کی لاگت مزید کم ہو جاتی ہے۔
مقامی کمپیوٹنگ کی بنیاد: 100,000 مقامی چپس کے استدلالی کلسٹر پر مبنی، جس سے سپلائی چین پر خودمختار کنٹرول حاصل ہوتا ہے۔
Agent کے ذریعے تعمیر کردہ Infra: استدلالی نظام GLM-5.3 سے چلنے والے Agent نے دو ہفتوں سے بھی کم عرصے میں خودکار طور پر بنایا۔ اینڈ ٹو اینڈ تھروپٹ بیس لائن کے 3 گنا تک پہنچ گیا، اور تکراری کارکردگی روایتی انسانی اصلاح سے کہیں زیادہ ہے۔
انجینئرنگ کی گہری اصلاح: TF32 کی درستگی کے انحراف، GIL کی رکاوٹ اور دہرائے جانے والے حساب جیسے مسائل حل کر کے آپریٹر کی سطح پر کارکردگی میں نمایاں اضافہ کیا گیا، جس میں KDA Decode آپریٹر کی کارکردگی 1.71 گنا بہتر ہوئی۔

AI Agent کی اعلیٰ تعدد والی کالز: Agent ورک فلو میں منصوبہ بندی، ٹول کے انتخاب اور نتائج کے انضمام کے لیے ماڈل کو بار بار کال کرنا پڑتا ہے، اس لیے کم تاخیر براہِ راست کام کے کل وقت کو کم کرتی ہے۔
کوڈ اسسٹنٹ اور IDE تکمیل: پروگرامنگ کے منظرناموں میں اسٹریمنگ آؤٹ پٹ فوری طور پر دکھائی دینا چاہیے، اور تیز رفتار تخلیق ڈویلپر کے کام کے تجربے کو نمایاں طور پر بہتر بنا سکتی ہے۔
لائیو اسٹریمنگ/مارکیٹنگ کے لیے حقیقی وقت میں مواد کی تخلیق: ای کامرس لائیو اسٹریمنگ اسکرپٹس، بیراجی تعامل اور مقبول موضوعات پر فوری تحریر جیسے منظرنامے، جہاں مواد «بات کرتے ہوئے ساتھ ساتھ» تیار ہونا ضروری ہے۔
آواز کے ذریعے باہمی تعامل اور AI رفاقت: وائس اسسٹنٹ اور جذباتی رفاقت کی ایپلی کیشنز پہلے لفظ کی تاخیر اور اسٹریمنگ رفتار کے لیے انتہائی حساس ہوتی ہیں، اس لیے یہ وہ منظرنامے ہیں جہاں رفتار کا اضافی فائدہ سب سے آسانی سے قابلِ قدر بنتا ہے۔