علَنات علي بابا اليوم باللي مثيل العقدة الفائقة Lingjun Zhenwu M890 تكيّف بنجاح مع النموذج الكبير Kimi K3 اللي فيه 2.8 تريليون بارامتر، وذلك بفضل التحسين المشترك بين الشريحة ومنصة الاستدلال والنموذج، مما كيحسن نجاعة استدلال النموذج.
علم موقع IT之家 أن Kimi K3 هو أحدث نموذج رائد ديال Moonshot، وكيبلغ حجم النموذج ديالو 2.8 تريليون بارامتر، وكيعتمد على بنية خليط الخبراء (MoE).
أما مثيل العقدة الفائقة Lingjun Zhenwu، فمبني على شريحة الذكاء الاصطناعي Zhenwu M890 ديال T-Head، اللي كتوحد التدريب والاستدلال، وكيحتوي على شريحة الربط ICN Switch 1.0. هاد الشي كيخلي 64 شريحة M890 تحقق ربطاً سريعاً All-to-All بسرعة 800 GB/s، وبذاكرة فيديو إجمالية كتبلغ 9TB. وكيقدر يحط حركة التواصل ديال التوازي بين خبراء EP فالنماذج MoE ذات التريليونات ديال البارامترات داخل نطاق واحد عالي النطاق الترددي، باش يضمن نجاعة توليد Token (الوحدات الرمزية).
وفنفس الوقت، تعاونات علي بابا وT-Head وفريق Kimi بشكل معمق على مستوى العمليات ومكدس البرمجيات وغيرهم، ونجحو يوفرو تكييف Day0 لنموذج kimi K3. ومكدس البرمجيات T-Head SAIL ديال شريحة Zhenwu كيخلي إطار الاستدلال Mooncake اللي طوراتو Kimi يخدم مباشرة «من بعد إخراجُه من العلبة». كما أن دعم Triton فـ M890 كيخلي عدد كبير من العمليات المخصصة المكتوبة اعتماداً على Triton تخدم بلا ما تحتاج لإعادة الكتابة، وهاد الشي كيقلل بزاف من حجم خدمة التكييف.