Modellveröffentlichungen

Baidu veröffentlicht Unlimited OCR: 3B-Parameter-MoE-Modell mit konstantem KV-Cache für effiziente Langdokument-Analyse

Originaltitel:Baidu Releases Unlimited OCR, a 3B Model That Keeps the KV Cache Flat for Long-Document Parsing

KI-Zusammenfassung

Baidu stellt Unlimited OCR vor, ein MoE-Modell mit 3B Parametern, das bei der Inferenz nur 500M Parameter aktiviert. Die zentrale Innovation Reference Sliding Window Attention (R-SWA) hält die KV-Cache-Größe konstant bei Lm + n (n standardmäßig 128), sodass Speicher und Latenz nicht mit der Ausgabelänge wachsen. Das Modell wurde auf Basis von DeepSeek OCR 4000 Schritte weiter trainiert, unterstützt eine maximale Länge von 32K und erreicht durch DeepEncoder eine 16-fache Token-Kompression. Auf OmniDocBench v1.5 erzielt es 93,23 Punkte und liegt damit 6,22 Punkte über der DeepSeek-OCR-Baseline; auf v1.6 sind 93,92 Punkte der Höchstwert. Im Base-Modus erreicht der Durchsatz 5580 TPS, 12,7 % mehr als DeepSeek OCR, und bei 6000 Token Ausgabe ist die Latenz 35 % niedriger. Geeignet für Szenarien wie die Transkription ganzer Bücher; Code und Gewichte sind auf Hugging Face Open Source verfügbar.

Kernpunkte

  • Baidu stellt Unlimited OCR vor,ein MoE-Modell mit 3B Parametern,das bei der Inferenz nur 500M…
  • Die zentrale Innovation Reference Sliding Window Attention (R-SWA) hält die KV-Cache-Größe…
  • Das Modell wurde auf Basis von DeepSeek OCR 4000 Schritte weiter trainiert,unterstützt eine…
  • Auf OmniDocBench v1.
  • 5 erzielt es 93,23 Punkte und liegt damit 6,22 Punkte über der DeepSeek-OCR-Baseline

Auf einen Blick

Veröffentlicht
Aktualisiert
Quelle
MarkTechPost(RSS)
Kategorie
Modellveröffentlichungen
KI-Bewertung
73
Original lesen Den vollständigen Artikel bei der Originalquelle lesen
Warum es wichtig ist

Baidu这个OCR模型用R-SWA把KV缓存压成常量,长文档解析终于不用越跑越慢了。MIT开源,3B总参但推理只消500M,做文档管线的可以直接接。

Verwandte Entitäten

Quelle & Urheberrecht

Dieser Artikel basiert auf kuratierten Titeln und KI-Zusammenfassungen der öffentlichen AIHOT-API, mit Quellenangabe und Rückverlinkung. Das Urheberrecht am Original liegt bei den ursprünglichen Medien und Autoren; diese Seite spiegelt keine Volltexte.

Originalartikel · AIHOT-Eintrag

Zitierhinweis

Beim Zitieren dieses Artikels bitte Titel, Datum und Permalink beibehalten und Orange News als Quelle angeben.

Orange News: Baidu veröffentlicht Unlimited OCR: 3B-Parameter-MoE-Modell mit konstantem KV-Cache für effiziente Langdokument-Analyse. 25. Juni 2026. https://new.nat6.net/de/news/cmqt3kfx30024sl0ev7aty5q7/

Alle ansehen →