บทแนะนำและเทคนิค

DharmaOCR ใช้ DPO ลดอัตราการเสื่อมของข้อความลง 59.4%

หัวข้อต้นฉบับ:Direct Preference Optimization Beyond Chatbots

สรุปโดย AI

DharmaOCR (โมเดล OCR แบบมีโครงสร้าง) ที่เปิดตัวในเดือนเมษายน ใช้การปรับให้เหมาะสมตามความชอบโดยตรง (DPO) เป็นขั้นตอนการฝึกอบรมที่สองหลังการปรับละเอียดแบบมีผู้สอน (SFT) ในงานสกัดเอกสารภาษาปอร์ตุเกสของบราซิล SFT ไม่สามารถลงโทษการเสื่อมของข้อความ (ลูปซ้ำ) ได้โดยตรง ขณะที่ DPO ใช้เอาต์พุตที่ล้มเหลวของโมเดลเอง (ลูปเสื่อม) เป็นตัวอย่างเชิงลบในการฝึกตามความชอบ ทำให้อัตราการเสื่อมของข้อความลดลงเฉลี่ย 59.4% ในทุกตระกูลโมเดลที่ทดสอบ และสูงสุดถึง 87.6% (เช่น Nanonets-OCR2-3B ลดจาก 1.61% เหลือ 0.20%) โดยทั่วไป DPO มักใช้กับการจัดแนวแชท งานนี้ขยายไปสู่งาน OCR ที่เป็นภววิสัย แสดงให้เห็นว่า DPO สามารถซ่อมแซมรูปแบบความล้มเหลวเฉพาะได้

ข้อมูลสำคัญ

  • DharmaOCR (โมเดล OCR แบบมีโครงสร้าง) ที่เปิดตัวในเดือนเมษายน ใช้การปรับให้เหมาะสมตามความชอบโดยตรง…
  • 4% ในทุกตระกูลโมเดลที่ทดสอบ และสูงสุดถึง 87.
  • 6% (เช่น Nanonets-OCR2-3B ลดจาก 1.
  • 61% เหลือ 0.
  • 20%) โดยทั่วไป DPO มักใช้กับการจัดแนวแชท งานนี้ขยายไปสู่งาน OCR ที่เป็นภววิสัย แสดงให้เห็นว่า DPO…

สรุปสั้น

เวลาเผยแพร่
เวลาอัปเดต
แหล่งที่มา
Hugging Face 社区博客(混合发现)
หมวดหมู่
บทแนะนำและเทคนิค
คะแนน AI
55
อ่านต้นฉบับ อ่านบทความฉบับเต็มที่แหล่งข่าวต้นฉบับ
เหตุผลที่แนะนำ

DPO 不只能对齐,这篇直接用模型自身的垃圾输出当反例,把 OCR 的重复错误平均降了 59%。思路不复杂,但告诉做结构化生成的工程师:训练数据里最该保留的就是模型犯的错。

แหล่งที่มาและลิขสิทธิ์

บทความนี้เรียบเรียงจากพาดหัวคัดสรรและบทสรุป AI จาก API สาธารณะของ AIHOT โดยระบุแหล่งที่มาและลิงก์กลับแล้ว ลิขสิทธิ์ต้นฉบับเป็นของสื่อและผู้เขียนต้นทาง เว็บไซต์นี้ไม่ได้สะท้อนเนื้อหาฉบับเต็ม

ลิงก์ต้นฉบับ · รายการ AIHOT

วิธีอ้างอิง

เมื่ออ้างอิงบทความนี้ โปรดระบุชื่อเรื่อง วันที่ และลิงก์ถาวร พร้อมระบุแหล่งที่มาเป็น Orange News

Orange News: DharmaOCR ใช้ DPO ลดอัตราการเสื่อมของข้อความลง 59.4% 3 มิถุนายน 2026 https://new.nat6.net/th/news/cmpy47xxi01kislax812354vk/

ดูทั้งหมด →