Ra mắt mô hình

Baidu ra mắt Unlimited OCR: Mô hình MoE 3B tham số, KV cache cố định giúp phân tích tài liệu dài hiệu quả

Tiêu đề gốc:Baidu Releases Unlimited OCR, a 3B Model That Keeps the KV Cache Flat for Long-Document Parsing

Tóm tắt AI

Baidu ra mắt Unlimited OCR, mô hình MoE 3B tham số, khi suy luận chỉ kích hoạt 500M tham số. Đổi mới cốt lõi Reference Sliding Window Attention (R-SWA) cố định kích thước KV cache thành Lm + n (n mặc định 128), bộ nhớ và độ trễ không tăng theo độ dài đầu ra. Mô hình dựa trên DeepSeek OCR tiếp tục huấn luyện 4000 bước, hỗ trợ độ dài tối đa 32K, thông qua DeepEncoder đạt nén token 16 lần. Trên OmniDocBench v1.5 tổng điểm 93,23, vượt đường cơ sở DeepSeek OCR 6,22 điểm; v1.6 đạt 93,92 là cao nhất. Chế độ Base thông lượng đạt 5580 TPS, tăng 12,7% so với DeepSeek OCR, độ trễ thấp hơn 35% khi đầu ra 6000 token. Phù hợp kịch bản chép toàn bộ sách, mã và trọng số đã mã nguồn mở trên HuggingFace.

Thông tin chính

  • Baidu ra mắt Unlimited OCR,mô hình MoE 3B tham số,khi suy luận chỉ kích hoạt 500M tham số.
  • Đổi mới cốt lõi Reference Sliding Window Attention (R-SWA) cố định kích thước KV cache thành Lm +…
  • Mô hình dựa trên DeepSeek OCR tiếp tục huấn luyện 4000 bước,hỗ trợ độ dài tối đa 32K,thông qua…
  • Trên OmniDocBench v1.
  • 5 tổng điểm 93,23,vượt đường cơ sở DeepSeek OCR 6,22 điểm

Tóm tắt nhanh

Đăng lúc
Cập nhật lúc
Nguồn
MarkTechPost(RSS)
Danh mục
Ra mắt mô hình
Điểm AI
73
Đọc bản gốc Đọc toàn văn tại nguồn tin gốc
Lý do đề xuất

Baidu这个OCR模型用R-SWA把KV缓存压成常量,长文档解析终于不用越跑越慢了。MIT开源,3B总参但推理只消500M,做文档管线的可以直接接。

Thực thể liên quan

Nguồn và bản quyền

Bài viết này được tổng hợp dựa trên các tiêu đề chọn lọc và tóm tắt AI từ API công khai của AIHOT, đã ghi rõ nguồn và liên kết ngược; bản quyền nội dung gốc thuộc về cơ quan truyền thông và tác giả gốc, trang này không sao chép toàn văn.

Liên kết gốc · Mục AIHOT

Cách trích dẫn

Khi trích dẫn bài viết này, vui lòng giữ nguyên tiêu đề, ngày đăng và liên kết vĩnh viễn, đồng thời ghi rõ nguồn là Orange News.

Orange News: Baidu ra mắt Unlimited OCR: Mô hình MoE 3B tham số, KV cache cố định giúp phân tích tài liệu dài hiệu quả. 25 tháng 6 2026. https://new.nat6.net/vi/news/cmqt3kfx30024sl0ev7aty5q7/

Xem tất cả →