产品与应用

vLLM 发布 Kimi K3 Day-0 支持:2.8T 混合 MoE 的部署指南与性能数据

原文标题:Kimi K3 Is Here: Efficient Day-0 Support on vLLM

AI 摘要

vLLM 官方宣布 Day-0 支持 Kimi K3,这是一个 2.8 万亿参数的 MoE 模型(每 token 激活 896 专家中的 16 个),基于 Kimi Delta Attention 与 Attention Residuals,支持 1M token 上下文窗口和原生视觉。

关键信息

  • vLLM 官方宣布 Day-0 支持 Kimi K3,这是一个 2.
  • 8 万亿参数的 MoE 模型(每 token 激活 896 专家中的 16 个),基于 Kimi Delta Attention 与 Attention Residuals,支持 1M token…
  • vLLM 团队亲述 Day-0 支持 Kimi K3 的工程细节与部署配方,读者可以据此判断混合线性注意力模型在实际服务中的可行路径

速览

发布时间
更新时间
来源
vLLM 官方博客(RSS)
分类
产品与应用
AI 评分
75
阅读原文 前往信息源阅读完整正文
推荐理由

vLLM 团队亲述 Day-0 支持 Kimi K3 的工程细节与部署配方,读者可以据此判断混合线性注意力模型在实际服务中的可行路径。

相关实体

来源与版权

本文基于 AIHOT 公开 API 的精选标题与 AI 摘要整理,已注明来源并回链;原文版权归原媒体与作者所有,本站不镜像全文。

原文链接 · AIHOT 条目

如何引用

引用本文时请保留标题、日期与永久链接,并注明来源为橙子新闻。

橙子新闻:vLLM 发布 Kimi K3 Day-0 支持:2.8T 混合 MoE 的部署指南与性能数据。2026年7月27日。https://new.nat6.net/news/cmtym20de000krovuoss8cjda/

查看全部 →
  • Suno 推出多项新功能,含MIDI导出等

    我们一直在以比以往更快的速度构建!🚀 以下是网页端和移动端的新功能一览: • 高级音轨分离 • 将音轨导出为 MIDI • 歌词合写与自动保存 • 截图生成歌曲 • Apple CarPlay 与 Android Auto 你最期待 Su…

    X:Suno (@suno)产品与应用AI 评分 68

  • Kimi K3 开源分布式智能体环境 AgentENV

    我们与 kvcache-ai 合作开源了 AgentENV。 AgentENV 是一个用于大规模运行智能体环境的分布式系统。其组件为 Kimi K3 的智能体强化学习训练提供支持,具备快速快照、恢复和分支功能,适用于大规模并行智能体工作流…

    X:Kimi.ai (@Kimi_Moonshot)产品与应用AI 评分 69

  • Claude Opus 5 上线 Claude Code

    Claude Opus 5 已在 Claude Code 上线。作者 Adam Wolff 表示大项目仍用 Fable,需要快速产出 PR 时用 medium effort 的 Opus 5;引用的官方介绍称 Opus 5 接近 Fabl…

    X:Adam Wolff(Anthropic,Claude Code) (@dmwlff)产品与应用AI 评分 75

  • Kimi 发布视觉感知基准 PerceptionBench

    Kimi.ai 发布 PerceptionBench,一个从当前前沿模型在 42 个基准上的失败模式中归纳出的视觉感知基准。该基准将视觉感知拆解为 10 种原子能力,并构建了 3000 道验证题,每道题只考察单一感知能力,无需推理或外部知…

    X:Kimi.ai (@Kimi_Moonshot)产品与应用AI 评分 73