Anthropic शोध: स्वचालित अलाइनमेंट शोधकर्ता 10 प्रकार की अलाइनमेंट विफलताओं को कम कर सकते हैं
AI सारांश
Anthropic Fellows Program के शोध ने स्वचालित अलाइनमेंट शोधकर्ता (AAR) का निर्माण किया है। Claude Opus 4.8 का उपयोग करके 10 अलाइनमेंट विफलताओं (जैसे छल, चापलूसी, जेलब्रेक) पर पोस्ट-ट्रेनिंग की गई। सर्वोत्तम विधि ने लक्षित विफलताओं को काफी कम किया और इसे हेल्ड-आउट बेंचमार्क, पेट्री मल्टी-टर्न व्यवहार ऑडिट और अधिकतम 4.7 गुना बड़े मॉडल तक सामान्यीकृत किया।
मुख्य जानकारी
- Anthropic Fellows Program के शोध ने स्वचालित अलाइनमेंट शोधकर्ता (AAR) का निर्माण किया है। Claude…
- 8 का उपयोग करके 10 अलाइनमेंट विफलताओं (जैसे छल,चापलूसी,जेलब्रेक) पर पोस्ट-ट्रेनिंग की गई।…
- 7 गुना बड़े मॉडल तक सामान्यीकृत किया।
एक नज़र में
- प्रकाशन समय
- अपडेट समय
- श्रेणी
- पेपर और शोध
- AI स्कोर
- 70
文章给出自动化对齐研究在十类可测量失败上的实验结果和人类基线对比,读者可以据此评估其近期可行性。
संबंधित एंटिटी
स्रोत और कॉपीराइट
यह लेख AIHOT के सार्वजनिक API की चयनित सुर्खियों और AI सारांशों के आधार पर तैयार किया गया है, स्रोत का उल्लेख और लिंक दिया गया है; मूल पाठ का कॉपीराइट मूल मीडिया और लेखक के पास है, यह साइट पूरा पाठ मिरर नहीं करती।
उद्धरण कैसे दें
इस लेख का उद्धरण देते समय शीर्षक, तिथि और स्थायी लिंक बनाए रखें और स्रोत Orange News बताएं।
Orange News: Anthropic शोध: स्वचालित अलाइनमेंट शोधकर्ता 10 प्रकार की अलाइनमेंट विफलताओं को कम कर सकते हैं। 28 अगस्त 2026। https://new.nat6.net/hi/news/q2zq9idepdjz7to5631jlh0xp/