产品与应用

vLLM 实现 TML Inkling Day-0 支持并完成推理性能优化

原文标题:TML Inkling on vLLM: Day-0 Support with Optimized Performance

AI 摘要

vLLM 宣布对 Thinking Machines Lab 的 1T 参数多模态模型 TML Inkling 提供 Day-0 支持,覆盖 thinkingmachines/Inkling-NVFP4 和 BF16 两个版本,支持文本、图像、音频输入和最长 1M token 上下文。

关键信息

  • vLLM 宣布对 Thinking Machines Lab 的 1T 参数多模态模型 TML Inkling 提供 Day-0 支持
  • 覆盖 thinkingmachines/Inkling-NVFP4 和 BF16 两个版本,音频输入和最长 1M token 上下文
  • 原文给出 Day-0 支持的具体性能数字、架构优化细节和精度对比,读者可以评估该模型在自己的推理工作流中的可用性

速览

发布时间
更新时间
来源
vLLM 官方博客(RSS)
分类
产品与应用
AI 评分
74
阅读原文 前往信息源阅读完整正文
推荐理由

原文给出 Day-0 支持的具体性能数字、架构优化细节和精度对比,读者可以评估该模型在自己的推理工作流中的可用性。

来源与版权

本文基于 AIHOT 公开 API 的精选标题与 AI 摘要整理,已注明来源并回链;原文版权归原媒体与作者所有,本站不镜像全文。

原文链接 · AIHOT 条目

如何引用

引用本文时请保留标题、日期与永久链接,并注明来源为橙子新闻。

橙子新闻:vLLM 实现 TML Inkling Day-0 支持并完成推理性能优化。2026年7月15日。https://new.nat6.net/news/cmtym20dg000qrovu8y7mff6t/

查看全部 →
  • Codex 周活超700万,两月更新150+项

    7M+ 周活跃 Codex 用户。两月内 150+ 项更新。 @romainhuet 为你梳理 Codex 新动态:GPT‑5.6 与 Ultra 并行工作,/goal 功能,更快的计算机使用,AppShots,内联编辑,Sites,Co…

    X:OpenAI Developers (@OpenAIDevs)产品与应用AI 评分 74

  • 金山办公推出 WPS Comate AI 办公客户端

    金山办公在2026 AI生产力大会上推出面向员工的AI办公客户端WPS Comate,可连接组织数据与流程。该产品提供AI岗位专家、Skill技能生态、自动化任务等六大模块,并支持云端与本地双任务模式,个人用户可直接下载体验。

    IT之家·人工智能产品与应用AI 评分 70

  • xAI 开源 Grok Build 编程智能体与终端界面

    xAI 已将 Grok Build 的源代码在 GitHub 上开源。Grok Build 是 SpaceXAI 的编程智能体与终端用户界面(TUI),开源后用户可自行编译并完全本地运行,指向本地推理引擎并通过 `config.toml`…

    xAI:News(网页)产品与应用AI 评分 77

  • 全国首个“模型券”即时补贴平台上线京东云

    北京经开区在全国率先试点运行“模型券”即时补贴平台,由京东科技集团提供技术支持。企业购买模型服务时可在京东云优惠价基础上叠加补贴,以1000元券包为例实际支付最低可降至350元,补贴比例最高达65%。平台支持多模型调用,企业完成四项线上流…

    公众号:京东JoyAI产品与应用AI 评分 67