模型发布

百度发布Unlimited OCR:3B参数MoE模型,KV缓存恒定实现长文档高效解析

原文标题:Baidu Releases Unlimited OCR, a 3B Model That Keeps the KV Cache Flat for Long-Document Parsing

AI 摘要

百度推出Unlimited OCR,一个3B参数的MoE模型,推理时仅激活500M参数。其核心创新Reference Sliding Window Attention(R-SWA)将KV缓存大小固定为Lm + n(n默认128),内存和延迟不随输出长度增长。模型基于DeepSeek OCR继续训练4000步,支持32K最大长度,通过DeepEncoder实现16倍token压缩。在OmniDocBench v1.5上整体得分93.23,超出DeepSeek OCR基线6.22分;v1.6得分93.92为最高。Base模式下吞吐达5580 TPS,比DeepSeek OCR提升12.7%,6000 token输出时延迟低35%。适用于整本书转录等场景,代码与权重已在HuggingFace开源。

关键信息

  • 百度推出Unlimited OCR,一个3B参数的MoE模型,推理时仅激活500M参数。
  • 其核心创新Reference Sliding Window Attention(R-SWA)将KV缓存大小固定为Lm + n(n默认128),内存和延迟不随输出长度增长。
  • 模型基于DeepSeek OCR继续训练4000步,支持32K最大长度,通过DeepEncoder实现16倍token压缩。
  • 在OmniDocBench v1.
  • 5上整体得分93.

速览

发布时间
更新时间
来源
MarkTechPost(RSS)
分类
模型发布
AI 评分
73
阅读原文 前往信息源阅读完整正文
推荐理由

Baidu这个OCR模型用R-SWA把KV缓存压成常量,长文档解析终于不用越跑越慢了。MIT开源,3B总参但推理只消500M,做文档管线的可以直接接。

相关实体

来源与版权

本文基于 AIHOT 公开 API 的精选标题与 AI 摘要整理,已注明来源并回链;原文版权归原媒体与作者所有,本站不镜像全文。

原文链接 · AIHOT 条目

如何引用

引用本文时请保留标题、日期与永久链接,并注明来源为橙子新闻。

橙子新闻:百度发布Unlimited OCR:3B参数MoE模型,KV缓存恒定实现长文档高效解析。2026年6月25日。https://new.nat6.net/news/cmqt3kfx30024sl0ev7aty5q7/

查看全部 →
  • GPT-5.5 Instant 更新:记忆与上下文升级

    GPT-5.5 Instant 已上线,带来全新的感受、更好的记忆和更精准的上下文,回复感觉焕然一新。名字虽带“Instant”看似轻量,实则不然。免费和付费层均可使用。主推文:这是个极好的更新。

    X:Tibo (@thsottiaux)模型发布AI 评分 68

  • GPT-5.5 Instant 新版本,对话更有趣

    我们为你带来了新版 GPT-5.5 Instant,它现在聊起天来有趣多了。 我们最常用的模型现在能更好地理解问题背后的意图,并相应地调整回应。 它也能更可靠地处理复杂约束,让购物和本地推荐更加实用和连贯。 今天向付费用户推送,明天向免费…

    X:OpenAI (@OpenAI)模型发布AI 评分 67

  • Hy3 preview:混元大模型重建的第一步

    2026年4月23日,腾讯混元发布并开源 Hy3 preview 语言模型。该模型为快慢思考融合的混合专家模型,总参数295B,激活参数21B,支持256K上下文。在复杂推理、指令遵循、上下文学习、代码与智能体能力上大幅提升,在 SWE-…

    腾讯混元:Research(API)模型发布AI 评分 80

  • OpenAI 预览新一代模型 GPT-5.6 Sol

    OpenAI 发布了新一代模型 GPT-5.6 Sol 的预览信息。该模型被定位为下一代模型,目前仅公开了预览消息和标题,尚未披露具体技术细节、性能参数或功能特性。

    OpenAI:官网动态(RSS · 排除企业/客户案例)模型发布AI 评分 78