पेपर और शोध

Goodfire Research का शोध: मॉडल की मौखिक मूल्यांकन जागरूकता सुरक्षा बेंचमार्क के परिणामों को बढ़ा देती है

मूल शीर्षक:Verbalized Eval Awareness Inflates Measured Safety

AI सारांश

Goodfire Research ने एक अध्ययन प्रकाशित किया है जो बताता है कि मॉडल चेन-ऑफ-थॉट (CoT) के दौरान स्व-स्फूर्त रूप से 'मूल्यांकन जागरूकता' (eval awareness) प्रदर्शित करते हैं। यह शोध 19 बेंचमार्क और 8 मॉडलों पर आधारित है, जिसमें 515 मानव-सत्यापित उदाहरण शामिल हैं, जिनमें से 95% केवल चेन-ऑफ-थॉट के दौरान ही दिखाई देते हैं।

मुख्य जानकारी

  • Goodfire Research ने एक अध्ययन प्रकाशित किया है जो बताता है कि मॉडल चेन-ऑफ-थॉट (CoT) के दौरान…
  • जिसमें 515 मानव-सत्यापित उदाहरण शामिल हैं
  • जिनमें से 95% केवल चेन-ऑफ-थॉट के दौरान ही दिखाई देते हैं।

एक नज़र में

प्रकाशन समय
अपडेट समय
स्रोत
Goodfire Research(网页)
श्रेणी
पेपर और शोध
AI स्कोर
69
मूल पढ़ें मूल स्रोत पर पूरा लेख पढ़ें
सुझाव का कारण

研究覆盖 19 个基准和 8 个模型,给出评测意识推高拒绝率的因果证据与可操作的提示词改写方法,有助于评估者校准对安全基准分数的信任。

स्रोत और कॉपीराइट

यह लेख AIHOT के सार्वजनिक API की चयनित सुर्खियों और AI सारांशों के आधार पर तैयार किया गया है, स्रोत का उल्लेख और लिंक दिया गया है; मूल पाठ का कॉपीराइट मूल मीडिया और लेखक के पास है, यह साइट पूरा पाठ मिरर नहीं करती।

मूल लिंक · AIHOT प्रविष्टि

उद्धरण कैसे दें

इस लेख का उद्धरण देते समय शीर्षक, तिथि और स्थायी लिंक बनाए रखें और स्रोत Orange News बताएं।

Orange News: Goodfire Research का शोध: मॉडल की मौखिक मूल्यांकन जागरूकता सुरक्षा बेंचमार्क के परिणामों को बढ़ा देती है। 4 मई 2026। https://new.nat6.net/hi/news/cmtym4ai6000frop0g2iewo9x/

सभी देखें →