Baidu Merilis Unlimited OCR: Model MoE 3B Parameter, Cache KV Konstan untuk Parsing Dokumen Panjang Efisien
Judul asli:Baidu Releases Unlimited OCR, a 3B Model That Keeps the KV Cache Flat for Long-Document Parsing
Ringkasan AI
Baidu meluncurkan Unlimited OCR, model MoE 3B parameter yang hanya mengaktifkan 500M parameter saat inferensi. Inovasi intinya Reference Sliding Window Attention (R-SWA) menetapkan ukuran cache KV menjadi Lm + n (n default 128), memori dan latensi tidak tumbuh seiring panjang output. Model dilatih lanjut 4000 langkah berdasarkan DeepSeek OCR, mendukung panjang maksimum 32K, mencapai kompresi token 16 kali melalui DeepEncoder. Pada OmniDocBench v1.5 skor keseluruhan 93,23, melampaui baseline DeepSeek OCR sebesar 6,22 poin; skor v1.6 93,92 tertinggi. Dalam mode Base throughput mencapai 5580 TPS, meningkat 12,7% dibanding DeepSeek OCR, latensi 35% lebih rendah pada output 6000 token. Cocok untuk skenario seperti transkripsi seluruh buku; kode dan bobot telah dirilis sumber terbuka di HuggingFace.
Poin utama
- Baidu meluncurkan Unlimited OCR,model MoE 3B parameter yang hanya mengaktifkan 500M parameter saat…
- Inovasi intinya Reference Sliding Window Attention (R-SWA) menetapkan ukuran cache KV menjadi Lm +…
- Model dilatih lanjut 4000 langkah berdasarkan DeepSeek OCR,mendukung panjang maksimum 32K,mencapai…
- Pada OmniDocBench v1.
- 5 skor keseluruhan 93,23,melampaui baseline DeepSeek OCR sebesar 6,22 poin
Ringkasan cepat
- Waktu terbit
- Waktu diperbarui
- Sumber
- MarkTechPost(RSS)
- Kategori
- Rilis Model
- Skor AI
- 73
Baidu这个OCR模型用R-SWA把KV缓存压成常量,长文档解析终于不用越跑越慢了。MIT开源,3B总参但推理只消500M,做文档管线的可以直接接。
Entitas Terkait
Sumber dan hak cipta
Artikel ini disusun berdasarkan judul pilihan dan ringkasan AI dari API publik AIHOT, dengan sumber yang dicantumkan dan tautan balik; hak cipta konten asli milik media dan penulis aslinya, situs ini tidak menyalin artikel secara penuh.
Cara mengutip
Saat mengutip artikel ini, sertakan judul, tanggal, dan tautan permanen, serta cantumkan sumber Orange News.
Orange News: Baidu Merilis Unlimited OCR: Model MoE 3B Parameter, Cache KV Konstan untuk Parsing Dokumen Panjang Efisien. 25 Juni 2026. https://new.nat6.net/id/news/cmqt3kfx30024sl0ev7aty5q7/