튜토리얼 및 팁

DharmaOCR, DPO로 텍스트 퇴화율 59.4% 감소

원제목:Direct Preference Optimization Beyond Chatbots

AI 요약

4월 공개된 구조화 OCR 모델 DharmaOCR은 브라질 포르투갈어 문서 추출 작업에서 직접 선호 최적화(DPO)를 지도 미세조정(SFT) 이후의 두 번째 훈련 단계로 사용했다. SFT는 텍스트 퇴화(반복 루프)를 직접 처벌할 수 없지만, DPO는 모델 자체의 실패 출력(퇴화 루프)을 부정 샘플로 삼아 선호 훈련을 수행해 모든 테스트 모델군에서 텍스트 퇴화율을 평균 59.4%, 최대 87.6%까지 낮췄다(예: Nanonets-OCR2-3B는 1.61%에서 0.20%로). 전통적으로 DPO는 주로 채팅 정렬에 쓰였으나, 이 작업은 이를 객관적인 OCR 작업으로 확장해 DPO가 특정 실패 모드를 표적으로 교정할 수 있음을 입증했다.

핵심 정보

  • 4월 공개된 구조화 OCR 모델 DharmaOCR은 브라질 포르투갈어 문서 추출 작업에서 직접 선호 최적화(DPO)를 지도 미세조정(SFT) 이후의 두 번째 훈련 단계로 사용했다.
  • SFT는 텍스트 퇴화(반복 루프)를 직접 처벌할 수 없지만,DPO는 모델 자체의 실패 출력(퇴화 루프)을 부정 샘플로 삼아 선호 훈련을 수행해 모든 테스트 모델군에서 텍스트…
  • 6%까지 낮췄다(예: Nanonets-OCR2-3B는 1.
  • 전통적으로 DPO는 주로 채팅 정렬에 쓰였으나,이 작업은 이를 객관적인 OCR 작업으로 확장해 DPO가 특정 실패 모드를 표적으로 교정할 수 있음을 입증했다.

한눈에 보기

게시
업데이트
출처
Hugging Face 社区博客(混合发现)
카테고리
튜토리얼 및 팁
AI 점수
55
원문 읽기 정보 출처에서 전체 본문 읽기
추천 이유

DPO 不只能对齐,这篇直接用模型自身的垃圾输出当反例,把 OCR 的重复错误平均降了 59%。思路不复杂,但告诉做结构化生成的工程师:训练数据里最该保留的就是模型犯的错。

출처 및 저작권

이 기사는 AIHOT 공개 API가 제공하는 선별 제목과 AI 요약을 바탕으로 하며, 출처를 밝히고 원문으로 연결합니다. 원문 저작권은 원 미디어와 저자에게 있으며, 본 사이트는 전문을 전재하지 않습니다.

원문 기사 · AIHOT 항목

인용 방법

본문을 인용할 때는 제목, 날짜, 영구 링크를 유지하고 출처를 Orange News(으)로 표기해 주세요.

Orange News: DharmaOCR, DPO로 텍스트 퇴화율 59.4% 감소. 2026년 6월 3일. https://new.nat6.net/ko/news/cmpy47xxi01kislax812354vk/

전체 보기 →