SGLang umum sokongan Day-0 untuk NVIDIA Nemotron 3.5 Lightning
Tajuk asal:Blog SGLang Adds Day-0 Support for NVIDIA Nemotron 3.5 Lightning SGLang is excited to announce Day-0 support for NVIDIA Nemotron 3.5 Lightning, a customizable open model built to power always-on agents across local systems, the edge, the datacenter, and the cloud. ... NVIDIA Nemotron Team and SGLang Team
Ringkasan AI
SGLang mengumumkan sokongan Day-0 untuk NVIDIA Nemotron 3.5 Lightning, model sumber terbuka dengan seni bina campuran pakar 30B parameter keseluruhan dan 3B parameter aktif, menyokong konteks sehingga 1M token, dan pemberat BF16 serta NVFP4 boleh dimuat turun dari Hugging Face. Model ini menyokong tiga teknik penyahkodan spekulatif MTP, DFlash dan DSpark, serta boleh disambungkan ke aliran kerja ejen AI melalui API serasi OpenAI.
Maklumat penting
- SGLang mengumumkan sokongan Day-0 untuk NVIDIA Nemotron 3.
- 5 Lightning,model sumber terbuka dengan seni bina campuran pakar 30B parameter keseluruhan dan 3B…
- Model ini menyokong tiga teknik penyahkodan spekulatif MTP,DFlash dan DSpark,serta boleh…
Sekilas pandang
- Diterbitkan pada
- Dikemas kini pada
- Sumber
- LMSYS Blog
- Kategori
- Pelancaran Model
- Skor AI
- 74
Nemotron 3.5 Lightning以3B活跃参数提供前沿agent能力,SGLang的即刻支持让开发者能用单命令启动高性能推理,将agent部署成本大幅压缩。
Entiti Berkaitan
Sumber dan hak cipta
Artikel ini disusun berdasarkan tajuk pilihan dan ringkasan AI daripada API awam AIHOT, dengan sumber dinyatakan dan pautan balik disediakan; hak cipta teks asal milik media dan penulis asal, laman ini tidak menyalin penuh teks penuh.
Cara memetik
Apabila memetik artikel ini, kekalkan tajuk, tarikh dan pautan kekal, serta nyatakan sumber sebagai Orange News.
Orange News: SGLang umum sokongan Day-0 untuk NVIDIA Nemotron 3.5 Lightning. 11 Ogos 2026. https://new.nat6.net/ms/news/cmsopyoum028urohdhqzve6ba/