Pelancaran Model

SGLang umum sokongan Day-0 untuk NVIDIA Nemotron 3.5 Lightning

Tajuk asal:Blog SGLang Adds Day-0 Support for NVIDIA Nemotron 3.5 Lightning SGLang is excited to announce Day-0 support for NVIDIA Nemotron 3.5 Lightning, a customizable open model built to power always-on agents across local systems, the edge, the datacenter, and the cloud. ... NVIDIA Nemotron Team and SGLang Team

Ringkasan AI

SGLang mengumumkan sokongan Day-0 untuk NVIDIA Nemotron 3.5 Lightning, model sumber terbuka dengan seni bina campuran pakar 30B parameter keseluruhan dan 3B parameter aktif, menyokong konteks sehingga 1M token, dan pemberat BF16 serta NVFP4 boleh dimuat turun dari Hugging Face. Model ini menyokong tiga teknik penyahkodan spekulatif MTP, DFlash dan DSpark, serta boleh disambungkan ke aliran kerja ejen AI melalui API serasi OpenAI.

Maklumat penting

  • SGLang mengumumkan sokongan Day-0 untuk NVIDIA Nemotron 3.
  • 5 Lightning,model sumber terbuka dengan seni bina campuran pakar 30B parameter keseluruhan dan 3B…
  • Model ini menyokong tiga teknik penyahkodan spekulatif MTP,DFlash dan DSpark,serta boleh…

Sekilas pandang

Diterbitkan pada
Dikemas kini pada
Sumber
LMSYS Blog
Kategori
Pelancaran Model
Skor AI
74
Baca asal Baca artikel penuh di sumber asal
Sebab disyorkan

Nemotron 3.5 Lightning以3B活跃参数提供前沿agent能力,SGLang的即刻支持让开发者能用单命令启动高性能推理,将agent部署成本大幅压缩。

Entiti Berkaitan

Sumber dan hak cipta

Artikel ini disusun berdasarkan tajuk pilihan dan ringkasan AI daripada API awam AIHOT, dengan sumber dinyatakan dan pautan balik disediakan; hak cipta teks asal milik media dan penulis asal, laman ini tidak menyalin penuh teks penuh.

Pautan asal · Entri AIHOT

Cara memetik

Apabila memetik artikel ini, kekalkan tajuk, tarikh dan pautan kekal, serta nyatakan sumber sebagai Orange News.

Orange News: SGLang umum sokongan Day-0 untuk NVIDIA Nemotron 3.5 Lightning. 11 Ogos 2026. https://new.nat6.net/ms/news/cmsopyoum028urohdhqzve6ba/

Lihat Semua →