Nemotron 3.5 Lightning خدام

Nemotron 3.5 Lightning هو موديل MoE مفتوح المصدر من إنفيديا بـ30 مليار بارامتر، مهيّأ خصيصاً للأنظمة متعددة الوكلاء. مقارنةً بالموديلات المشابهة، كيزيد سرعة الإخراج بـ4 مرات، وكيُسرّع إتمام مهام الوكلاء بـ30%، وكيحقق توازن ممتاز بين الدقة والسرعة. كيدعم الموديل النشر فكل السيناريوهات، من حواسيب RTX وJetson حتى مراكز البيانات، وتْفتح المصدر ديالو على منصات بحال Hugging Face وNVIDIA Build، باش يعاون فالتطوير ديال تطبيقات وكلاء أكثر كفاءة.

تنفيذ مهام متعددة الوكلاء: تْصمّم هاد الموديل خصيصاً لمهام محددة داخل الأنظمة الكبيرة متعددة الوكلاء، وكيعاون المطورين يبنيو تطبيقات وكلاء أكثر ذكاءً وكفاءة.
إخراج سريع للاستدلال: مقارنةً بالموديلات المشابهة، كيقدر Nemotron 3.5 Lightning يحقق زيادة حتى لـ4 مرات فسرعة الإخراج، وكيُسرّع سرعة إتمام مهام الوكلاء بشكل عام بـ30%.
نشر مرن فكل السيناريوهات: كيقدر الموديل يخدم مباشرة فأنظمة الذكاء الاصطناعي المحلية، بما فيها حواسيب NVIDIA RTX وDGX Spark وJetson وغيرها، وكيقدر حتى يتوسع بسلاسة للأجهزة الطرفية ومحطات العمل ومراكز البيانات والبيئات السحابية.

تبعونا فـWeChat وجاوبو بـ“开源” باش تنضمو لمجموعة التواصل ديال مشاريع الذكاء الاصطناعي مفتوحة المصدر
بنية MoE ديال الخبراء الممزوجين: كيستعمل Nemotron 3.5 Lightning بنية MoE بـ30 مليار بارامتر، بإجمالي 30 مليار بارامتر، ولكن فكل عملية استدلال كيتفعّل غير شبكة فرعية فيها تقريباً 3 مليارات بارامتر. وبفضل آلية التفعيل المتناثر، كيحافظ الموديل على قدرات الموديلات الكبيرة مع تقليص كبير فتكلفة الحساب، وكيحقق استدلالاً فعالاً.
ضغط كميّة NVFP4: كيدعم الموديل صيغة NVFP4 للكمّية، وهي تقنية ديال إنفيديا بدقة فاصلة عائمة 4-bit، كتقلص بشكل كبير حجم الموديل واستهلاك ذاكرة الفيديو، وكتخليه يخدم بسلاسة على حواسيب RTX وJetson وغيرها من الأجهزة الاستهلاكية والطرفية.
تحسين خاص لسيناريوهات الوكلاء: تْدرّب الموديل وتْحسّن خصيصاً لسيناريوهات التعاون بين الوكلاء المتعددين (Multi-Agent)، مع التركيز على رفع الاستقرار والدقة فمراحل أساسية بحال الاستدلال بسلاسل طويلة، واستدعاء الأدوات، وتقسيم المهام، باش يدعم بشكل أحسن سيرورات العمل المعقدة ديال الوكلاء.
تحسين مشترك للسرعة والدقة: فتصميم البنية واستراتيجيات التدريب، حقق Nemotron 3.5 Lightning تحسيناً مشتركاً للدقة وسرعة الاستدلال. وفاختبار PinchBench المعياري، بان بأداء إجمالي أفضل من الموديلات المشابهة، مع الحفاظ على جودة إنجاز المهام ورفع سرعة تنفيذ الوكلاء بشكل عام بـ30%.

التحميل من Hugging Face: دخلو للمستودع الرسمي ديال Hugging Face وحمّلو أوزان الموديل، ومن بعد قدرو تشغلو Nemotron 3.5 Lightning محلياً.
منصة NVIDIA Build: مشيو للموقع الرسمي ديال NVIDIA Build باش تحصلو على تعريف بالموديل والوثائق التقنية ودليل النشر.
النشر على الأجهزة المحلية: نشرو الموديل مباشرة على أجهزة محلية بحال NVIDIA RTX PC وDGX Spark وDGX Station أو Jetson وشغلوه تما.
التوسّع على مستوى الشركات: وسّعو الموديل بسلاسة لمحطات عمل RTX PRO أو مراكز البيانات أو البيئات السحابية، باش يلبي احتياجات التطبيقات على مستوى الشركات.

بنية MoE بالتفعيل المتناثر: كيستعمل الموديل بنية MoE فيها 30 مليار بارامتر إجمالاً وحوالي 3 مليارات بارامتر مفعّلة، وكيقلل بشكل كبير تكلفة الحساب مع الحفاظ على قدرات الموديلات الكبيرة.
أداء استدلال فائق السرعة: مقارنةً بالموديلات المشابهة، كتزيد سرعة الإخراج بـ4 مرات، وكيقدر يسرّع إتمام مهام الوكلاء بشكل عام بـ30%.
دعم الكمّية NVFP4: بفضل صيغة إنفيديا للفاصلة العائمة 4-bit، كيقلل بشكل كبير استهلاك ذاكرة الفيديو، وكيتيح النشر فكل السيناريوهات، من حواسيب RTX حتى مراكز البيانات.
تحسين خاص للوكلاء: تْدرّب خصيصاً على مهام الوكلاء المتعددين اللي كتخدم لفترات طويلة، وكيحقق توازناً ممتازاً بين الدقة وسرعة الاستدلال.

الموقع الرسمي للمشروع：https://developer.nvidia.com/blog/nvidia-nemotron-3-5-lightning-delivers-fast-accurate-specialized-task-execution-for-long-running-agents/
مستودع الموديل على HuggingFace：https://huggingface.co/nvidia/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-NVFP4

أنظمة التعاون بين الوكلاء المتعددين: كموديل مخصص للمهام، كيسوق سيرورات العمل المعقدة ديال Agent وكيكمل بكفاءة استدعاء الأدوات وتقسيم المهام والاستدلال بسلاسل طويلة.
الاستدلال المحلي بالذكاء الاصطناعي فالطرفية: بالاعتماد على كمّية NVFP4 وآلية التفعيل المتناثر، كيحقق استدلالاً محلياً بزمن استجابة منخفض واستهلاك طاقة قليل على أجهزة RTX PC وJetson.
منصات الوكلاء على مستوى الشركات: كيتوسع بسلاسة لمراكز البيانات والبيئات السحابية، وكيْدعم خدمات الوكلاء والعمليات المؤتمتة ديال الشركات اللي كتخدم بتواتر عالي ولفترات طويلة.
تطوير الكود وأتمتة DevOps: كيولّد ويراجع ويصحح الكود بسرعة، وكيُسرّع تنفيذ مهام الوكلاء فالتطوير البرمجي والتكامل المستمر.
تحليل البيانات فالحين ودعم اتخاذ القرار: فسيناريوهات الأعمال اللي كتحتاج استجابة سريعة، كيوفر نتائج استدلال سريعة ودقيقة وكيعاون فصنع القرارات الفورية.