RadixArk 与 Google Cloud 合作,将完整 SGLang 功能引入 TPU
原文标题:News RadixArk Joins Forces with Google to Bring Full SGLang Features to TPUs RadixArk and Google Cloud are partnering to bring SGLang to TPUs, giving developers ultimate flexibility for running workloads on their choice of hardware. RadixArk & Google
AI 摘要
RadixArk 与 Google Cloud 合作,将开源推理框架 SGLang 引入 Google TPU,开发者可通过 SGL-JAX 在最新 TPU 上运行 Gemma、Qwen、DeepSeek 等大语言模型及多模态模型。
关键信息
- RadixArk 与 Google Cloud 合作,将开源推理框架 SGLang 引入 Google TPU
- 开发者可通过 SGL-JAX 在最新 TPU 上运行 Gemma、DeepSeek 等大语言模型及多模态模型
- SGLang 正式登陆 TPU,推理框架的硬件自由终于实现,选 GPU 还是 TPU 从此只看性价比不看兼容性,做推理服务的团队可以重新算账了
速览
- 发布时间
- 更新时间
- 来源
- LMSYS Blog
- 分类
- 行业动态
- AI 评分
- 61
推荐理由
SGLang 正式登陆 TPU,推理框架的硬件自由终于实现,选 GPU 还是 TPU 从此只看性价比不看兼容性,做推理服务的团队可以重新算账了。
相关实体
来源与版权
本文基于 AIHOT 公开 API 的精选标题与 AI 摘要整理,已注明来源并回链;原文版权归原媒体与作者所有,本站不镜像全文。
如何引用
引用本文时请保留标题、日期与永久链接,并注明来源为橙子新闻。
橙子新闻:RadixArk 与 Google Cloud 合作,将完整 SGLang 功能引入 TPU。2026年7月30日。https://new.nat6.net/news/cms7oxay30o4nro2e4t3r6ud2/