مرکزی مواد پر جائیں
مصنوعات کی تازہ کاریاں

10 گنا ٹوکن گنجائش: Cerebras نے WSE-3 Turbo چپ اور CS-4 سسٹم پیش کر دیا

WSE-3 کے مقابلے میں WSE-3 Turbo نے FP16 اسپیئر AI کمپیوٹنگ، میموری بینڈوڈتھ، آن چپ انٹرکنیکٹ بینڈوڈتھ اور I/O بینڈوڈتھ میں مکمل دوگنا اضافہ کیا ہے، جبکہ کارکردگی تقریباً خطی طور پر بڑھی ہے۔

10 گنا ٹوکن گنجائش: Cerebras نے WSE-3 Turbo چپ اور CS-4 سسٹم پیش کر دیا

ویفر اسکیل AI انفیرنس ایکسیلیریٹر بنانے والی کمپنی Cerebras نے مقامی وقت کے مطابق 18 تاریخ کو اپنی نئی نسل کی چپ WSE-3 Turbo اور اس پر مبنی CS-4 سسٹم پیش کرنے کا اعلان کیا۔ گزشتہ نسل کے CS-3 کے مقابلے میں CS-4 ٹوکن گنجائش میں 10 گنا اور رفتار میں 2 گنا اضافہ فراہم کرتا ہے۔

10 گنا ٹوکن گنجائش: Cerebras نے WSE-3 Turbo چپ اور CS-4 سسٹم پیش کر دیا

پہلے کے WSE-3 کی طرح، WSE-3 Turbo میں 900,000 کورز اور 44GB SRAM آن چپ کیش شامل ہے، لیکن اس کی FP16 اسپیئر AI کمپیوٹنگ، میموری بینڈوڈتھ، آن چپ انٹرکنیکٹ بینڈوڈتھ اور I/O بینڈوڈتھ سب دوگنی ہو گئی ہیں۔ CS-4 سسٹم میں 3 WSE-3 Turbo چپس شامل کی جا سکتی ہیں، جس سے کمپیوٹنگ کثافت مزید بڑھ جاتی ہے۔

Cerebras کے مطابق، CS-4 کے پاس OpenAI GPT-OSS ماڈل پر 4465 Token/s کی ٹوکن ڈیلیوری رفتار ہے، جو GPU حل سے 30 گنا زیادہ ہے، جبکہ CS-3 کے مقابلے میں اس میں 93% اضافہ ہوا ہے۔ انتہائی زیادہ پیرامیٹر والے ماڈلز کے لیے CS-4 کا 2μs کم تاخیر والا ویفر انٹرکنیکٹ 10T پیمانے پر 1000 Token/s سے زیادہ ٹوکن آؤٹ پٹ حاصل کر سکتا ہے۔

10 گنا ٹوکن گنجائش: Cerebras نے WSE-3 Turbo چپ اور CS-4 سسٹم پیش کر دیا

CS-4 مقامی طور پر انفیرنس ورک لوڈ کی تقسیم کو سپورٹ کرتا ہے، اور اسے ڈیکوڈنگ یونٹ کے طور پر مختلف نوعیت کے پری فل ہارڈویئر کے ساتھ استعمال کیا جا سکتا ہے، جس سے دونوں کے معماری فرق کے فوائد حاصل ہوتے ہیں۔

یہ کمپیوٹنگ ہارڈویئر Cerebras کے نئے Nexus ریک ماونٹ پلیٹ فارم پر مبنی ہے۔ کمپیوٹنگ، بجلی اور انٹرکنیکٹ کے 3 بڑے شعبے اب ازسرنو ڈیزائن کیے گئے آزاد نظام ہیں، جبکہ مجموعی اجزا کی تعداد میں 50% کمی کی گئی ہے اور مینوفیکچرنگ آٹومیشن کا تناسب نمایاں طور پر بڑھایا گیا ہے۔ CS-4 نے بورڈ لیول بجلی کی فراہمی کے نقصانات تقریباً مکمل طور پر ختم کر دیے ہیں اور WSE-3 Turbo کو دوگنی بجلی فراہم کرتا ہے۔