Mga Tutorial at Tip

Binaba ng DharmaOCR ang text degeneration rate ng 59.4% gamit ang DPO

Orihinal na pamagat:Direct Preference Optimization Beyond Chatbots

AI summary

Ang DharmaOCR (structured OCR model) na inilabas noong Abril, sa Brazil Portuguese document extraction tasks, ay gumamit ng Direct Preference Optimization (DPO) bilang ikalawang training stage pagkatapos ng supervised fine-tuning (SFT). Hindi direktang napaparusahan ng SFT ang text degeneration (repetition loops), habang ang DPO ay gumagamit ng sariling failure outputs ng modelo (degeneration loops) bilang negative samples para sa preference training, na nagbaba ng average na text degeneration rate ng 59.4% sa lahat ng tested model families, na may pinakamataas na 87.6% (halimbawa, Nanonets-OCR2-3B mula 1.61% hanggang 0.20%). Karaniwang ginagamit ang traditional DPO para sa chat alignment; pinalawak ng gawaing ito ito sa objective OCR tasks, na nagpapatunay na kayang ayusin ng DPO ang partikular na failure modes.

Mahahalagang impormasyon

  • Ang DharmaOCR (structured OCR model) na inilabas noong Abril,sa Brazil Portuguese document…
  • Hindi direktang napaparusahan ng SFT ang text degeneration (repetition loops),habang ang DPO ay…
  • 4% sa lahat ng tested model families,na may pinakamataas na 87.
  • 6% (halimbawa,Nanonets-OCR2-3B mula 1.
  • 61% hanggang 0.

Mabilisang tingin

Na-publish noong
Na-update noong
Pinagmulan
Hugging Face 社区博客(混合发现)
Kategorya
Mga Tutorial at Tip
AI na marka
55
Basahin ang orihinal Basahin ang buong artikulo sa orihinal na pinagmulan
Dahilan ng rekomendasyon

DPO 不只能对齐,这篇直接用模型自身的垃圾输出当反例,把 OCR 的重复错误平均降了 59%。思路不复杂,但告诉做结构化生成的工程师:训练数据里最该保留的就是模型犯的错。

Pinagmulan at copyright

Ang artikulong ito ay batay sa mga piling pamagat at AI summary mula sa pampublikong API ng AIHOT, may nakasaad na pinagmulan at backlink; ang copyright ng orihinal na teksto ay pag-aari ng orihinal na media at may-akda, hindi namin ginagaya ang buong teksto.

Link ng orihinal · Entry sa AIHOT

Paano banggitin

Kapag binabanggit ang artikulong ito, panatilihin ang pamagat, petsa at permanenteng link, at banggitin ang Orange News bilang pinagmulan.

Orange News: Binaba ng DharmaOCR ang text degeneration rate ng 59.4% gamit ang DPO. 3 Hunyo 2026. https://new.nat6.net/fil/news/cmpy47xxi01kislax812354vk/

Tingnan lahat →