Goodfire ने RLFR विधि जारी की: आंतरिक फीचर प्रोब को रिवॉर्ड के रूप में उपयोग कर Gemma-3-12B-IT की मतिभ्रम दर को 58% कम किया
मूल शीर्षक:Features as Rewards: Using Interpretability to Reduce Hallucinations
AI सारांश
Goodfire Research ने एक शोध पत्र जारी किया है जिसमें RLFR (Reinforcement Learning from Feature Rewards) का प्रस्ताव दिया गया है। इसमें मतिभ्रम (hallucination) को कम करने के लिए मॉडल के आंतरिक एक्टिवेशन पर लगे हल्के प्रोब को RL रिवॉर्ड सिग्नल के रूप में उपयोग किया जाता है।
एक नज़र में
- प्रकाशन समय
- अपडेट समय
- स्रोत
- Goodfire Research(网页)
- श्रेणी
- पेपर और शोध
- AI स्कोर
- 63
原文给出了用模型内部探针作为 RL 奖励降低幻觉的具体方法、成本对比和消融数据,读者可以据此评估可解释性驱动训练的可行性。
स्रोत और कॉपीराइट
यह लेख AIHOT के सार्वजनिक API की चयनित सुर्खियों और AI सारांशों के आधार पर तैयार किया गया है, स्रोत का उल्लेख और लिंक दिया गया है; मूल पाठ का कॉपीराइट मूल मीडिया और लेखक के पास है, यह साइट पूरा पाठ मिरर नहीं करती।
उद्धरण कैसे दें
इस लेख का उद्धरण देते समय शीर्षक, तिथि और स्थायी लिंक बनाए रखें और स्रोत Orange News बताएं।
Orange News: Goodfire ने RLFR विधि जारी की: आंतरिक फीचर प्रोब को रिवॉर्ड के रूप में उपयोग कर Gemma-3-12B-IT की मतिभ्रम दर को 58% कम किया। 11 फ़रवरी 2026। https://new.nat6.net/hi/news/cmtym4ai6000lrop0vqzy3vc3/