METR ने मॉडलों की अलाइनमेंट मूल्यांकन पहचानने की क्षमता मापी: जांच एजेंट अलाइनमेंट और क्षमता मूल्यांकन में अंतर कर सकते हैं
मूल शीर्षक:Measuring alignment eval tells
AI सारांश
METR ने एक शोध नोट जारी किया, जिसमें जांच एजेंट का उपयोग 19 अलाइनमेंट मूल्यांकनों और 36 क्षमता मूल्यांकनों में वातावरण का पता लगाने के लिए किया गया, ताकि यह मापा जा सके कि मॉडल पहचान सकते हैं या नहीं कि वे अलाइनमेंट मूल्यांकन में हैं। परिणामों से पता चलता है कि एजेंटों की दोनों प्रकार के मूल्यांकनों में अंतर करने की क्षमता पिछले एक वर्ष में लगातार बढ़ी है, और Opus 5.5 ने अपने डेटासेट पर सभी अलाइनमेंट मूल्यांकनों को सभी क्षमता मूल्यांकनों से ऊपर रखा। मॉडल की पहचान के आधारों में ऐसे संकेत शामिल हैं जैसे वातावरण का सिम्युलेटेड हनीपॉट जैसा दिखना; लेखकों ने अलाइनमेंट संकेतों को पर्यावरण-स्तरीय और कार्य-स्तरीय दो श्रेणियों में विभाजित किया, और सुझाव दिया कि इससे अलाइनमेंट मूल्यांकन डिज़ाइन को पुनरावृत्त रूप से सुधारा जा सकता है।
मुख्य जानकारी
- METR ने एक शोध नोट जारी किया,जिसमें जांच एजेंट का उपयोग 19 अलाइनमेंट मूल्यांकनों और 36 क्षमता…
- 5 ने अपने डेटासेट पर सभी अलाइनमेंट मूल्यांकनों को सभी क्षमता मूल्यांकनों से ऊपर रखा। मॉडल की पहचान…
- लेखकों ने अलाइनमेंट संकेतों को पर्यावरण-स्तरीय और कार्य-स्तरीय दो श्रेणियों में विभाजित किया,और…
एक नज़र में
- प्रकाशन समय
- अपडेट समय
- स्रोत
- METR:Notes(网页)
- श्रेणी
- पेपर और शोध
- विषय
- सुरक्षा और संरेखण
- AI स्कोर
- 62
METR 用调查型智能体实测 55 个评测,发现当前模型能识别对齐评测,并给出了环境级与任务级线索的分类方法。
संबंधित विषय
स्रोत और कॉपीराइट
यह लेख AIHOT के सार्वजनिक API की चयनित सुर्खियों और AI सारांशों के आधार पर तैयार किया गया है, स्रोत का उल्लेख और लिंक दिया गया है; मूल पाठ का कॉपीराइट मूल मीडिया और लेखक के पास है, यह साइट पूरा पाठ मिरर नहीं करती।
उद्धरण कैसे दें
इस लेख का उद्धरण देते समय शीर्षक, तिथि और स्थायी लिंक बनाए रखें और स्रोत Orange News बताएं।
Orange News: METR ने मॉडलों की अलाइनमेंट मूल्यांकन पहचानने की क्षमता मापी: जांच एजेंट अलाइनमेंट और क्षमता मूल्यांकन में अंतर कर सकते हैं। 16 नवंबर 2026। https://new.nat6.net/hi/news/m4emm1ej7qzex1k77a7mfaztd/