Anthropic ने Claude को स्वायत्त रूप से मॉडल प्रशिक्षण देकर अलाइनमेंट विफलताओं को कम किया
मूल शीर्षक:Automated researchers can reliably mitigate alignment failures
AI सारांश
Anthropic ने Claude को स्वायत्त रूप से मॉडल प्रशिक्षण करने दिया, जिससे धोखे, चापलूसी जैसी 10 प्रकार की अलाइनमेंट विफलताएं कम हुईं। सभी में पूर्ण प्रदर्शन की सुरक्षा खाई उल्लेखनीय रूप से घटी और सामान्य क्षमताओं को नुकसान नहीं पहुंचा। यह विधि अनुकूलन लक्ष्य से 4.7 गुना बड़े मॉडल पर भी प्रभावी रही। Claude ने 28 मानव सुरक्षा शोधकर्ताओं को भी पीछे छोड़ा, और धोखे वाले परिदृश्यों में इसकी सर्वोत्तम विधि मानव की सर्वोत्तम योजना से 20% बेहतर रही।
मुख्य जानकारी
- Anthropic ने Claude को स्वायत्त रूप से मॉडल प्रशिक्षण करने दिया
- चापलूसी जैसी 10 प्रकार की अलाइनमेंट विफलताएं कम हुईं। सभी में पूर्ण प्रदर्शन की सुरक्षा खाई…
- 7 गुना बड़े मॉडल पर भी प्रभावी रही। Claude ने 28 मानव सुरक्षा शोधकर्ताओं को भी पीछे छोड़ा,और धोखे…
एक नज़र में
- प्रकाशन समय
- अपडेट समय
- श्रेणी
- पेपर और शोध
- AI स्कोर
- 78
自动化对齐研究把安全训练从一次性微调变成可迭代搜索,Claude Sonnet 5 用约两千条训练样本在 60 小时内接近生产对齐水平,数据效率比现有生产流程高约一万五千倍。
संबंधित एंटिटी
स्रोत और कॉपीराइट
यह लेख AIHOT के सार्वजनिक API की चयनित सुर्खियों और AI सारांशों के आधार पर तैयार किया गया है, स्रोत का उल्लेख और लिंक दिया गया है; मूल पाठ का कॉपीराइट मूल मीडिया और लेखक के पास है, यह साइट पूरा पाठ मिरर नहीं करती।
उद्धरण कैसे दें
इस लेख का उद्धरण देते समय शीर्षक, तिथि और स्थायी लिंक बनाए रखें और स्रोत Orange News बताएं।
Orange News: Anthropic ने Claude को स्वायत्त रूप से मॉडल प्रशिक्षण देकर अलाइनमेंट विफलताओं को कम किया। 28 अगस्त 2026। https://new.nat6.net/hi/news/cmtd83hb4018fro667i1tbc34/