Makalah & Riset

Goodfire merilis metode RLFR: menggunakan probe fitur internal sebagai reward menurunkan tingkat halusinasi Gemma-3-12B-IT sebesar 58%

Judul asli:Features as Rewards: Using Interpretability to Reduce Hallucinations

Ringkasan AI

Goodfire Research merilis makalah, mengusulkan RLFR (Reinforcement Learning from Feature Rewards), menggunakan probe ringan pada aktivasi internal model sebagai sinyal reward RL untuk mengurangi halusinasi.

Poin utama

  • Goodfire Research merilis makalah
  • mengusulkan RLFR (Reinforcement Learning from Feature Rewards)
  • menggunakan probe ringan pada aktivasi internal model sebagai sinyal reward RL untuk mengurangi…

Ringkasan cepat

Waktu terbit
Waktu diperbarui
Sumber
Goodfire Research(网页)
Kategori
Makalah & Riset
Skor AI
63
Baca aslinya Baca artikel lengkap di sumber aslinya
Alasan rekomendasi

原文给出了用模型内部探针作为 RL 奖励降低幻觉的具体方法、成本对比和消融数据,读者可以据此评估可解释性驱动训练的可行性。

Sumber dan hak cipta

Artikel ini disusun berdasarkan judul pilihan dan ringkasan AI dari API publik AIHOT, dengan sumber yang dicantumkan dan tautan balik; hak cipta konten asli milik media dan penulis aslinya, situs ini tidak menyalin artikel secara penuh.

Tautan asli · Entri AIHOT

Cara mengutip

Saat mengutip artikel ini, sertakan judul, tanggal, dan tautan permanen, serta cantumkan sumber Orange News.

Orange News: Goodfire merilis metode RLFR: menggunakan probe fitur internal sebagai reward menurunkan tingkat halusinasi Gemma-3-12B-IT sebesar 58%. 11 Februari 2026. https://new.nat6.net/id/news/cmtym4ai6000lrop0vqzy3vc3/

Lihat semua →