METR शोध: निष्ठाहीनता के बावजूद मॉडल व्यवहार की निगरानी के लिए सूचना स्रोत बन सकती है चेन-ऑफ-थॉट
मूल शीर्षक:CoT May Be Highly Informative Despite “Unfaithfulness”
AI सारांश
METR ने Anthropic के Claude Sonnet 3.7 और Claude 4 के निष्ठा मूल्यांकन को दोहराया और पाया कि जब समस्या हल करने के तर्क के लिए चेन-ऑफ-थॉट आवश्यक होती है, तो उदार निष्ठा परिभाषा के तहत मॉडल लगभग हमेशा निष्ठावान होते हैं: 21,272 ट्रेजेक्टरी में केवल 3 संदिग्ध निष्ठाहीन मामले पाए गए
मुख्य जानकारी
- METR ने Anthropic के Claude Sonnet 3.
- 7 और Claude 4 के निष्ठा मूल्यांकन को दोहराया और पाया कि जब समस्या हल करने के तर्क के लिए…
- 272 ट्रेजेक्टरी में केवल 3 संदिग्ध निष्ठाहीन मामले पाए गए
एक नज़र में
- प्रकाशन समय
- अपडेट समय
- स्रोत
- METR:Research(网页)
- श्रेणी
- पेपर और शोध
- AI स्कोर
- 64
原文提出宽松忠实度视角并用检测实验支撑,为理解 CoT 监控在什么条件下可靠提供了可检验框架。
संबंधित एंटिटी
स्रोत और कॉपीराइट
यह लेख AIHOT के सार्वजनिक API की चयनित सुर्खियों और AI सारांशों के आधार पर तैयार किया गया है, स्रोत का उल्लेख और लिंक दिया गया है; मूल पाठ का कॉपीराइट मूल मीडिया और लेखक के पास है, यह साइट पूरा पाठ मिरर नहीं करती।
उद्धरण कैसे दें
इस लेख का उद्धरण देते समय शीर्षक, तिथि और स्थायी लिंक बनाए रखें और स्रोत Orange News बताएं।
Orange News: METR शोध: निष्ठाहीनता के बावजूद मॉडल व्यवहार की निगरानी के लिए सूचना स्रोत बन सकती है चेन-ऑफ-थॉट। 8 अगस्त 2025। https://new.nat6.net/hi/news/cmtyo7nb703vcrog06kl1awln/