Ngày 11 tháng 8 theo giờ địa phương, NVIDIA công bố ra mắt mô hình AI nguồn mở 30B Nemotron 3.5 Lightning, tiếp tục làm phong phú dòng mô hình Nemotron 3.
Theo thông tin chính thức, Nemotron 3.5 Lightning là mô hình MoE sở hữu 30 tỷ tham số, được thiết kế riêng cho các tác vụ cụ thể trong các hệ thống đa tác nhân quy mô lớn, hỗ trợ phát triển các ứng dụng tác nhân thông minh và hiệu quả hơn.
So với các mô hình tương tự khác, mô hình này có thể đạt tốc độ đầu ra cao hơn tới 4 lần, qua đó tăng 30% tốc độ hoàn thành tổng thể các tác vụ của tác nhân.
Nemotron 3.5 Lightning có thể chạy trực tiếp trên các hệ thống AI cục bộ, bao gồm NVIDIA RTX PC, NVIDIA DGX Spark, NVIDIA DGX Station và NVIDIA Jetson; đồng thời có thể mở rộng liền mạch cho các thiết bị AI biên, máy trạm NVIDIA RTX PRO, trung tâm dữ liệu và môi trường đám mây, phục vụ các kịch bản ứng dụng cấp doanh nghiệp.
Liên kết nguồn mở:
Hugging Face: https://huggingface.co/nvidia/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-NVFP4
ModelScope: https://modelscope.ai/collections/nv-community/Nemotron-35-Lightning
OpenRouter: https://openrouter.ai/nvidia/nemotron-3.5-lightning:free
NVIDIA: https://build.nvidia.com/nvidia/nemotron-3.5-lightning-30b-a3b