Pelancaran Model

SGLang beri sokongan Day-0 untuk Muse Glimmer, optimumkan inferens untuk aliran kerja ejen tempatan

Tajuk asal:Blog SGLang Adds Day-0 Support for Muse Glimmer, a Multimodal Model Built for Local Agentic Workflows We're excited to partner with Meta Superintelligence Labs to bring Day-0 support for Muse Glimmer to SGLang, with dedicated optimizations tailored for high-performance inference of agentic workflows o... Meta Superintelligence Labs and the SGLang Team

Ringkasan AI

SGLang bekerjasama dengan Meta Superintelligence Labs untuk menyediakan sokongan Day-0 bagi Muse Glimmer, model multimodal 30 bilion parameter dengan tetingkap konteks 128k+ token.

Sekilas pandang

Diterbitkan pada
Dikemas kini pada
Sumber
LMSYS Blog
Kategori
Pelancaran Model
Skor AI
72
Baca asal Baca artikel penuh di sumber asal
Sebab disyorkan

SGLang对Muse Glimmer的优化使30B多模态模型在RTX 5090上达到236 tok/s用户速度,本地智能体工作流不再受限于云端延迟。

Entiti Berkaitan

Sumber dan hak cipta

Artikel ini disusun berdasarkan tajuk pilihan dan ringkasan AI daripada API awam AIHOT, dengan sumber dinyatakan dan pautan balik disediakan; hak cipta teks asal milik media dan penulis asal, laman ini tidak menyalin penuh teks penuh.

Pautan asal · Entri AIHOT

Cara memetik

Apabila memetik artikel ini, kekalkan tajuk, tarikh dan pautan kekal, serta nyatakan sumber sebagai Orange News.

Orange News: SGLang beri sokongan Day-0 untuk Muse Glimmer, optimumkan inferens untuk aliran kerja ejen tempatan. 10 Ogos 2026. https://new.nat6.net/ms/news/cmsn68brx03q2ron5vwp3pwta/

Lihat Semua →