Goodfire представляет RLFR: награда от внутренних признаков снижает галлюцинации Gemma-3-12B-IT на 58%
Оригинальный заголовок:Features as Rewards: Using Interpretability to Reduce Hallucinations
ИИ-резюме
Goodfire Research опубликовала статью, предлагающую RLFR (Reinforcement Learning from Feature Rewards) — использование лёгких проб на внутренних активациях модели в качестве сигнала награды в RL для снижения галлюцинаций.
Кратко
- Опубликовано
- Обновлено
- Источник
- Goodfire Research(网页)
- Категория
- Статьи и исследования
- Оценка ИИ
- 63
原文给出了用模型内部探针作为 RL 奖励降低幻觉的具体方法、成本对比和消融数据,读者可以据此评估可解释性驱动训练的可行性。
Источник и авторские права
Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.
Как цитировать
При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.
Orange News: Goodfire представляет RLFR: награда от внутренних признаков снижает галлюцинации Gemma-3-12B-IT на 58%. 11 февраля 2026. https://new.nat6.net/ru/news/cmtym4ai6000lrop0vqzy3vc3/