Ra mắt mô hình

SGLang công bố hỗ trợ Day-0 cho NVIDIA Nemotron 3.5 Lightning

Tiêu đề gốc:Blog SGLang Adds Day-0 Support for NVIDIA Nemotron 3.5 Lightning SGLang is excited to announce Day-0 support for NVIDIA Nemotron 3.5 Lightning, a customizable open model built to power always-on agents across local systems, the edge, the datacenter, and the cloud. ... NVIDIA Nemotron Team and SGLang Team

Tóm tắt AI

SGLang công bố hỗ trợ Day-0 cho NVIDIA Nemotron 3.5 Lightning, mô hình mã nguồn mở có kiến trúc hỗn hợp chuyên gia 30B tổng tham số, 3B tham số kích hoạt, hỗ trợ ngữ cảnh tối đa 1M token, có thể tải trọng số BF16 và NVFP4 từ Hugging Face. Mô hình hỗ trợ ba kỹ thuật giải mã suy đoán MTP, DFlash, DSpark, và có thể tích hợp vào quy trình tác nhân AI qua API tương thích OpenAI.

Thông tin chính

  • SGLang công bố hỗ trợ Day-0 cho NVIDIA Nemotron 3.
  • 5 Lightning,mô hình mã nguồn mở có kiến trúc hỗn hợp chuyên gia 30B tổng tham số,3B tham số kích…
  • Mô hình hỗ trợ ba kỹ thuật giải mã suy đoán MTP,DFlash,DSpark,và có thể tích hợp vào quy trình tác…

Tóm tắt nhanh

Đăng lúc
Cập nhật lúc
Nguồn
LMSYS Blog
Danh mục
Ra mắt mô hình
Điểm AI
74
Đọc bản gốc Đọc toàn văn tại nguồn tin gốc
Lý do đề xuất

Nemotron 3.5 Lightning以3B活跃参数提供前沿agent能力,SGLang的即刻支持让开发者能用单命令启动高性能推理,将agent部署成本大幅压缩。

Thực thể liên quan

Nguồn và bản quyền

Bài viết này được tổng hợp dựa trên các tiêu đề chọn lọc và tóm tắt AI từ API công khai của AIHOT, đã ghi rõ nguồn và liên kết ngược; bản quyền nội dung gốc thuộc về cơ quan truyền thông và tác giả gốc, trang này không sao chép toàn văn.

Liên kết gốc · Mục AIHOT

Cách trích dẫn

Khi trích dẫn bài viết này, vui lòng giữ nguyên tiêu đề, ngày đăng và liên kết vĩnh viễn, đồng thời ghi rõ nguồn là Orange News.

Orange News: SGLang công bố hỗ trợ Day-0 cho NVIDIA Nemotron 3.5 Lightning. 11 tháng 8 2026. https://new.nat6.net/vi/news/cmsopyoum028urohdhqzve6ba/

Xem tất cả →