SGLang 为 Muse Glimmer 提供 Day-0 支持,针对本地智能体工作流优化推理
原文标题:Blog SGLang Adds Day-0 Support for Muse Glimmer, a Multimodal Model Built for Local Agentic Workflows We're excited to partner with Meta Superintelligence Labs to bring Day-0 support for Muse Glimmer to SGLang, with dedicated optimizations tailored for high-performance inference of agentic workflows o... Meta Superintelligence Labs and the SGLang Team
AI 摘要
SGLang 与 Meta Superintelligence Labs 合作,为 30B 参数多模态模型 Muse Glimmer 提供 Day-0 支持,该模型拥有 128k+ token 上下文窗口。
关键信息
- SGLang 与 Meta Superintelligence Labs 合作,为 30B 参数多模态模型 Muse Glimmer 提供 Day-0 支持
- 该模型拥有 128k+ token 上下文窗口
- SGLang对Muse Glimmer的优化使30B多模态模型在RTX 5090上达到236 tok/s用户速度,本地智能体工作流不再受限于云端延迟
速览
- 发布时间
- 更新时间
- 来源
- LMSYS Blog
- 分类
- 模型发布
- AI 评分
- 72
推荐理由
SGLang对Muse Glimmer的优化使30B多模态模型在RTX 5090上达到236 tok/s用户速度,本地智能体工作流不再受限于云端延迟。
相关实体
来源与版权
本文基于 AIHOT 公开 API 的精选标题与 AI 摘要整理,已注明来源并回链;原文版权归原媒体与作者所有,本站不镜像全文。
如何引用
引用本文时请保留标题、日期与永久链接,并注明来源为橙子新闻。
橙子新闻:SGLang 为 Muse Glimmer 提供 Day-0 支持,针对本地智能体工作流优化推理。2026年8月10日。https://new.nat6.net/news/cmsn68brx03q2ron5vwp3pwta/