Статьи и исследования

Goodfire представляет RLFR: награда от внутренних признаков снижает галлюцинации Gemma-3-12B-IT на 58%

Оригинальный заголовок:Features as Rewards: Using Interpretability to Reduce Hallucinations

ИИ-резюме

Goodfire Research опубликовала статью, предлагающую RLFR (Reinforcement Learning from Feature Rewards) — использование лёгких проб на внутренних активациях модели в качестве сигнала награды в RL для снижения галлюцинаций.

Кратко

Опубликовано
Обновлено
Источник
Goodfire Research(网页)
Категория
Статьи и исследования
Оценка ИИ
63
Читать оригинал Читать полную статью в первоисточнике
Почему это важно

原文给出了用模型内部探针作为 RL 奖励降低幻觉的具体方法、成本对比和消融数据,读者可以据此评估可解释性驱动训练的可行性。

Источник и авторские права

Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.

Оригинал статьи · Материал на AIHOT

Как цитировать

При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.

Orange News: Goodfire представляет RLFR: награда от внутренних признаков снижает галлюцинации Gemma-3-12B-IT на 58%. 11 февраля 2026. https://new.nat6.net/ru/news/cmtym4ai6000lrop0vqzy3vc3/

Смотреть все →