Nemotron 3.5 Lightning Faoliyat yuritmoqda

Nemotron 3.5 Lightning — NVIDIA tomonidan ishlab chiqilgan, 30B parametrli, ochiq manbali MoE modeli bo‘lib, ko‘p agentli tizimlar uchun maxsus optimallashtirilgan. O‘xshash modellarga nisbatan chiqish tezligi 4 baravar yuqori, agent vazifalarini bajarish tezligi esa 30% ga oshadi va aniqlik bilan tezlik o‘rtasida a’lo muvozanatni ta’minlaydi. Model RTX PC, Jetson’dan tortib ma’lumotlar markazlarigacha bo‘lgan barcha muhitlarda joylashtirishni qo‘llab-quvvatlaydi. U Hugging Face, NVIDIA Build va boshqa platformalarda ochiq manba sifatida taqdim etilgan bo‘lib, yanada samarali agent ilovalarini ishlab chiqishga yordam beradi.

Ko‘p agentli vazifalarni bajarish: model yirik ko‘p agentli tizimlardagi maxsus vazifalar uchun yaratilgan bo‘lib, dasturchilarga yanada aqlli va samarali agent ilovalarini yaratishda yordam beradi.
Yuqori tezlikda inferensiya: o‘xshash modellarga nisbatan Nemotron 3.5 Lightning chiqish tezligini 4 baravargacha oshiradi va agent vazifalarini umumiy bajarish tezligini 30% ga tezlashtiradi.
Barcha muhitlarda moslashuvchan joylashtirish: model mahalliy AI tizimlarida, jumladan NVIDIA RTX PC, DGX Spark va Jetson’da bevosita ishlashi, shuningdek chekka qurilmalar, ish stansiyalari, ma’lumotlar markazlari hamda bulutli muhitlarga muammosiz kengaytirilishi mumkin.

WeChat’da kuzatib boring va “开源” deb javob yuborib, AI ochiq manba loyihalari guruhiga qo‘shiling.
MoE aralash ekspertlar arxitekturasi: Nemotron 3.5 Lightning 30B parametrli MoE (aralash ekspertlar) arxitekturasidan foydalanadi. Umumiy parametrlar soni 30 milliard bo‘lib, har bir inferensiya vaqtida taxminan 3 milliard parametrli quyi tarmoq faollashadi. Siyrak faollashtirish mexanizmi katta model imkoniyatlarini saqlagan holda hisoblash xarajatlarini sezilarli kamaytirib, samarali inferensiyani ta’minlaydi.
NVFP4 kvantlash va siqish: model NVIDIA tomonidan ishlab chiqilgan 4-bitli suzuvchi nuqtali aniqlik yechimi bo‘lgan NVFP4 kvantlash formatini qo‘llab-quvvatlaydi. Bu model hajmi va videoxotira sarfini sezilarli siqib, uning RTX PC, Jetson kabi iste’molchi va chekka qurilmalarda ravon ishlashiga imkon beradi.
Agent muhitlari uchun maxsus optimallashtirish: model ko‘p agentli (Multi-Agent) hamkorlik muhitlari uchun maxsus o‘qitilgan va optimallashtirilgan. U uzoq zanjirli fikrlash, vositalardan foydalanish va vazifalarni ajratish kabi muhim bosqichlarning barqarorligi hamda aniqligini oshirishga qaratilgan bo‘lib, murakkab agent ish jarayonlarini yanada yaxshi qo‘llab-quvvatlaydi.
Tezlik va aniqlikni birgalikda optimallashtirish: arxitektura dizayni va o‘qitish strategiyasida Nemotron 3.5 Lightning aniqlik hamda inferensiya tezligini birgalikda optimallashtiradi. PinchBench sinovida u o‘xshash modellardan ustun umumiy natijani ko‘rsatdi: vazifalarni bajarish sifatini saqlagan holda agentlarning umumiy ijro tezligini 30% ga oshirdi.

Hugging Face’dan yuklab olish: model og‘irliklarini yuklab olish uchun Hugging Face rasmiy repozitoriyasiga kiring va Nemotron 3.5 Lightning’ni mahalliy muhitda yuklab ishga tushiring.
NVIDIA Build platformasi: model tavsifi, texnik hujjatlar va joylashtirish qo‘llanmasini olish uchun NVIDIA Build rasmiy saytiga kiring.
Mahalliy qurilmalarga joylashtirish: modelni NVIDIA RTX PC, DGX Spark, DGX Station yoki Jetson kabi mahalliy qurilmalarga bevosita joylashtirib ishlating.
Korxona darajasida kengaytirish: korxona ilovalari ehtiyojlarini qondirish uchun RTX PRO ish stansiyalari, ma’lumotlar markazlari yoki bulutli muhitlarga muammosiz kengaytiring.

MoE siyrak faollashtirish arxitekturasi: model jami 30B parametr va taxminan 3B faollashtiriladigan parametrga ega MoE arxitekturasidan foydalanadi. Bu katta model imkoniyatlarini saqlagan holda hisoblash xarajatlarini sezilarli kamaytiradi.
Juda tez inferensiya: o‘xshash modellarga nisbatan chiqish tezligi 4 baravar yuqori bo‘lib, agent vazifalarini umumiy bajarish tezligini 30% ga oshiradi.
NVFP4 kvantlashni qo‘llab-quvvatlash: NVIDIA tomonidan ishlab chiqilgan 4-bitli suzuvchi nuqtali kvantlash formati videoxotira sarfini sezilarli kamaytirib, RTX PC’dan ma’lumotlar markazlarigacha bo‘lgan barcha muhitlarda joylashtirish imkonini beradi.
Agentlar uchun maxsus optimallashtirish: uzoq vaqt ishlaydigan ko‘p agentli vazifalar uchun maxsus o‘qitilgan bo‘lib, aniqlik va inferensiya tezligi o‘rtasida a’lo muvozanatni ta’minlaydi.

Loyiha rasmiy sayti：https://developer.nvidia.com/blog/nvidia-nemotron-3-5-lightning-delivers-fast-accurate-specialized-task-execution-for-long-running-agents/
Hugging Face model kutubxonasi：https://huggingface.co/nvidia/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-NVFP4

Ko‘p agentli hamkorlik tizimlari: maxsus vazifalar modeli sifatida murakkab Agent ish jarayonlarini boshqarib, vositalardan foydalanish, vazifalarni ajratish va uzoq zanjirli fikrlashni samarali amalga oshiradi.
Mahalliy chekka AI inferensiyasi: NVFP4 kvantlashi va siyrak faollashtirish mexanizmi yordamida RTX PC hamda Jetson qurilmalarida kechikishi va energiya sarfi past bo‘lgan mahalliy inferensiyani ta’minlaydi.
Korxona darajasidagi agent platformalari: ma’lumotlar markazlari va bulutli muhitlarga muammosiz kengayib, yuqori chastotali va uzoq vaqt ishlaydigan korxona agent xizmatlari hamda avtomatlashtirilgan jarayonlarni qo‘llab-quvvatlaydi.
Kod ishlab chiqish va DevOps avtomatlashtirish: kodni tez yaratish, tekshirish va tuzatish orqali dasturiy ta’minot ishlab chiqish hamda uzluksiz integratsiyadagi agent vazifalarini tezlashtiradi.
Real vaqt ma’lumotlarini tahlil qilish va qarorlarni qo‘llab-quvvatlash: tezkor javob talab qiladigan biznes muhitlarida yuqori tezlikdagi, aniq inferensiya natijalarini taqdim etib, real vaqtdagi qarorlar qabul qilishga yordam beradi.