vLLM 实现 TML Inkling Day-0 支持并完成推理性能优化
原文标题:TML Inkling on vLLM: Day-0 Support with Optimized Performance
AI 摘要
vLLM 宣布对 Thinking Machines Lab 的 1T 参数多模态模型 TML Inkling 提供 Day-0 支持,覆盖 thinkingmachines/Inkling-NVFP4 和 BF16 两个版本,支持文本、图像、音频输入和最长 1M token 上下文。
关键信息
- vLLM 宣布对 Thinking Machines Lab 的 1T 参数多模态模型 TML Inkling 提供 Day-0 支持
- 覆盖 thinkingmachines/Inkling-NVFP4 和 BF16 两个版本,音频输入和最长 1M token 上下文
- 原文给出 Day-0 支持的具体性能数字、架构优化细节和精度对比,读者可以评估该模型在自己的推理工作流中的可用性
速览
- 发布时间
- 更新时间
- 分类
- 产品与应用
- AI 评分
- 74
推荐理由
原文给出 Day-0 支持的具体性能数字、架构优化细节和精度对比,读者可以评估该模型在自己的推理工作流中的可用性。
来源与版权
本文基于 AIHOT 公开 API 的精选标题与 AI 摘要整理,已注明来源并回链;原文版权归原媒体与作者所有,本站不镜像全文。
如何引用
引用本文时请保留标题、日期与永久链接,并注明来源为橙子新闻。
橙子新闻:vLLM 实现 TML Inkling Day-0 支持并完成推理性能优化。2026年7月15日。https://new.nat6.net/news/cmtym20dg000qrovu8y7mff6t/