Baidu ra mắt Unlimited OCR: Mô hình MoE 3B tham số, KV cache cố định giúp phân tích tài liệu dài hiệu quả
Tiêu đề gốc:Baidu Releases Unlimited OCR, a 3B Model That Keeps the KV Cache Flat for Long-Document Parsing
Tóm tắt AI
Baidu ra mắt Unlimited OCR, mô hình MoE 3B tham số, khi suy luận chỉ kích hoạt 500M tham số. Đổi mới cốt lõi Reference Sliding Window Attention (R-SWA) cố định kích thước KV cache thành Lm + n (n mặc định 128), bộ nhớ và độ trễ không tăng theo độ dài đầu ra. Mô hình dựa trên DeepSeek OCR tiếp tục huấn luyện 4000 bước, hỗ trợ độ dài tối đa 32K, thông qua DeepEncoder đạt nén token 16 lần. Trên OmniDocBench v1.5 tổng điểm 93,23, vượt đường cơ sở DeepSeek OCR 6,22 điểm; v1.6 đạt 93,92 là cao nhất. Chế độ Base thông lượng đạt 5580 TPS, tăng 12,7% so với DeepSeek OCR, độ trễ thấp hơn 35% khi đầu ra 6000 token. Phù hợp kịch bản chép toàn bộ sách, mã và trọng số đã mã nguồn mở trên HuggingFace.
Thông tin chính
- Baidu ra mắt Unlimited OCR,mô hình MoE 3B tham số,khi suy luận chỉ kích hoạt 500M tham số.
- Đổi mới cốt lõi Reference Sliding Window Attention (R-SWA) cố định kích thước KV cache thành Lm +…
- Mô hình dựa trên DeepSeek OCR tiếp tục huấn luyện 4000 bước,hỗ trợ độ dài tối đa 32K,thông qua…
- Trên OmniDocBench v1.
- 5 tổng điểm 93,23,vượt đường cơ sở DeepSeek OCR 6,22 điểm
Tóm tắt nhanh
- Đăng lúc
- Cập nhật lúc
- Nguồn
- MarkTechPost(RSS)
- Danh mục
- Ra mắt mô hình
- Điểm AI
- 73
Baidu这个OCR模型用R-SWA把KV缓存压成常量,长文档解析终于不用越跑越慢了。MIT开源,3B总参但推理只消500M,做文档管线的可以直接接。
Thực thể liên quan
Nguồn và bản quyền
Bài viết này được tổng hợp dựa trên các tiêu đề chọn lọc và tóm tắt AI từ API công khai của AIHOT, đã ghi rõ nguồn và liên kết ngược; bản quyền nội dung gốc thuộc về cơ quan truyền thông và tác giả gốc, trang này không sao chép toàn văn.
Cách trích dẫn
Khi trích dẫn bài viết này, vui lòng giữ nguyên tiêu đề, ngày đăng và liên kết vĩnh viễn, đồng thời ghi rõ nguồn là Orange News.
Orange News: Baidu ra mắt Unlimited OCR: Mô hình MoE 3B tham số, KV cache cố định giúp phân tích tài liệu dài hiệu quả. 25 tháng 6 2026. https://new.nat6.net/vi/news/cmqt3kfx30024sl0ev7aty5q7/