Binaba ng DharmaOCR ang text degeneration rate ng 59.4% gamit ang DPO
Orihinal na pamagat:Direct Preference Optimization Beyond Chatbots
AI summary
Ang DharmaOCR (structured OCR model) na inilabas noong Abril, sa Brazil Portuguese document extraction tasks, ay gumamit ng Direct Preference Optimization (DPO) bilang ikalawang training stage pagkatapos ng supervised fine-tuning (SFT). Hindi direktang napaparusahan ng SFT ang text degeneration (repetition loops), habang ang DPO ay gumagamit ng sariling failure outputs ng modelo (degeneration loops) bilang negative samples para sa preference training, na nagbaba ng average na text degeneration rate ng 59.4% sa lahat ng tested model families, na may pinakamataas na 87.6% (halimbawa, Nanonets-OCR2-3B mula 1.61% hanggang 0.20%). Karaniwang ginagamit ang traditional DPO para sa chat alignment; pinalawak ng gawaing ito ito sa objective OCR tasks, na nagpapatunay na kayang ayusin ng DPO ang partikular na failure modes.
Mahahalagang impormasyon
- Ang DharmaOCR (structured OCR model) na inilabas noong Abril,sa Brazil Portuguese document…
- Hindi direktang napaparusahan ng SFT ang text degeneration (repetition loops),habang ang DPO ay…
- 4% sa lahat ng tested model families,na may pinakamataas na 87.
- 6% (halimbawa,Nanonets-OCR2-3B mula 1.
- 61% hanggang 0.
Mabilisang tingin
- Na-publish noong
- Na-update noong
- Pinagmulan
- Hugging Face 社区博客(混合发现)
- Kategorya
- Mga Tutorial at Tip
- AI na marka
- 55
DPO 不只能对齐,这篇直接用模型自身的垃圾输出当反例,把 OCR 的重复错误平均降了 59%。思路不复杂,但告诉做结构化生成的工程师:训练数据里最该保留的就是模型犯的错。
Pinagmulan at copyright
Ang artikulong ito ay batay sa mga piling pamagat at AI summary mula sa pampublikong API ng AIHOT, may nakasaad na pinagmulan at backlink; ang copyright ng orihinal na teksto ay pag-aari ng orihinal na media at may-akda, hindi namin ginagaya ang buong teksto.
Paano banggitin
Kapag binabanggit ang artikulong ito, panatilihin ang pamagat, petsa at permanenteng link, at banggitin ang Orange News bilang pinagmulan.
Orange News: Binaba ng DharmaOCR ang text degeneration rate ng 59.4% gamit ang DPO. 3 Hunyo 2026. https://new.nat6.net/fil/news/cmpy47xxi01kislax812354vk/