Inilabas ng Baidu ang Unlimited OCR: 3B parameter MoE model, constant KV cache para sa efficient long-document parsing
Orihinal na pamagat:Baidu Releases Unlimited OCR, a 3B Model That Keeps the KV Cache Flat for Long-Document Parsing
AI summary
Inilabas ng Baidu ang Unlimited OCR, isang 3B parameter MoE model na may 500M activated parameters lamang sa inference. Ang pangunahing inobasyon nito na Reference Sliding Window Attention (R-SWA) ay nagtatakda ng KV cache size na fixed sa Lm + n (default n=128), kaya hindi lumalaki ang memory at latency kasabay ng output length. Ang modelo ay patuloy na sinanay mula sa DeepSeek OCR sa loob ng 4000 steps, sumusuporta sa 32K maximum length, at nakakamit ng 16x token compression sa pamamagitan ng DeepEncoder. Nakakuha ito ng overall score na 93.23 sa OmniDocBench v1.5, lumampas sa DeepSeek OCR baseline ng 6.22 points; 93.92 ang score sa v1.6, ang pinakamataas. Sa Base mode, umabot ang throughput sa 5580 TPS, 12.7% na pagtaas kumpara sa DeepSeek OCR, at 35% na mas mababang latency sa 6000 token output. Angkop ito para sa mga scenario tulad ng buong libro transcription, at open source na ang code at weights sa HuggingFace.
Mahahalagang impormasyon
- Inilabas ng Baidu ang Unlimited OCR,isang 3B parameter MoE model na may 500M activated parameters…
- Ang pangunahing inobasyon nito na Reference Sliding Window Attention (R-SWA) ay nagtatakda ng KV…
- Ang modelo ay patuloy na sinanay mula sa DeepSeek OCR sa loob ng 4000 steps,sumusuporta sa 32K…
- Nakakuha ito ng overall score na 93.
- 23 sa OmniDocBench v1.
Mabilisang tingin
- Na-publish noong
- Na-update noong
- Pinagmulan
- MarkTechPost(RSS)
- Kategorya
- Paglabas ng modelo
- AI na marka
- 73
Baidu这个OCR模型用R-SWA把KV缓存压成常量,长文档解析终于不用越跑越慢了。MIT开源,3B总参但推理只消500M,做文档管线的可以直接接。
Kaugnay na Entity
Pinagmulan at copyright
Ang artikulong ito ay batay sa mga piling pamagat at AI summary mula sa pampublikong API ng AIHOT, may nakasaad na pinagmulan at backlink; ang copyright ng orihinal na teksto ay pag-aari ng orihinal na media at may-akda, hindi namin ginagaya ang buong teksto.
Paano banggitin
Kapag binabanggit ang artikulong ito, panatilihin ang pamagat, petsa at permanenteng link, at banggitin ang Orange News bilang pinagmulan.
Orange News: Inilabas ng Baidu ang Unlimited OCR: 3B parameter MoE model, constant KV cache para sa efficient long-document parsing. 25 Hunyo 2026. https://new.nat6.net/fil/news/cmqt3kfx30024sl0ev7aty5q7/