논문 및 연구

Goodfire, 내부 특징 프로브를 보상으로 쓰는 RLFR 방법 공개…Gemma-3-12B-IT 환각률 58% 감소

원제목:Features as Rewards: Using Interpretability to Reduce Hallucinations

AI 요약

Goodfire Research가 논문을 발표하고 RLFR(Reinforcement Learning from Feature Rewards)을 제안했다. 모델 내부 활성화에 대한 경량 프로브를 RL 보상 신호로 사용해 환각을 줄이는 방법이다.

한눈에 보기

게시
업데이트
출처
Goodfire Research(网页)
카테고리
논문 및 연구
AI 점수
63
원문 읽기 정보 출처에서 전체 본문 읽기
추천 이유

原文给出了用模型内部探针作为 RL 奖励降低幻觉的具体方法、成本对比和消融数据,读者可以据此评估可解释性驱动训练的可行性。

출처 및 저작권

이 기사는 AIHOT 공개 API가 제공하는 선별 제목과 AI 요약을 바탕으로 하며, 출처를 밝히고 원문으로 연결합니다. 원문 저작권은 원 미디어와 저자에게 있으며, 본 사이트는 전문을 전재하지 않습니다.

원문 기사 · AIHOT 항목

인용 방법

본문을 인용할 때는 제목, 날짜, 영구 링크를 유지하고 출처를 Orange News(으)로 표기해 주세요.

Orange News: Goodfire, 내부 특징 프로브를 보상으로 쓰는 RLFR 방법 공개…Gemma-3-12B-IT 환각률 58% 감소. 2026년 2월 11일. https://new.nat6.net/ko/news/cmtym4ai6000lrop0vqzy3vc3/

전체 보기 →