पेपर और शोध

Anthropic ने alignment शोध जारी किया: संविधान दस्तावेज़ से प्रशिक्षण और कठिन सलाह डेटा संश्लेषित करके Claude एजेंट के अनुपयुक्त व्यवहार में कमी

मूल शीर्षक:Teaching Claude Why

AI सारांश

Anthropic ने Alignment Science Blog पर एक विस्तृत लेख प्रकाशित किया, जिसमें agentic misalignment को उदाहरण बनाकर Claude Opus 4.5 के बाद से सुरक्षा प्रशिक्षण के अद्यतन तरीकों का परिचय दिया गया।

मुख्य जानकारी

  • Anthropic ने Alignment Science Blog पर एक विस्तृत लेख प्रकाशित किया
  • जिसमें agentic misalignment को उदाहरण बनाकर Claude Opus 4.
  • 5 के बाद से सुरक्षा प्रशिक्षण के अद्यतन तरीकों का परिचय दिया गया।

एक नज़र में

प्रकाशन समय
अपडेट समय
स्रोत
Anthropic:Alignment Science Blog(网页)
श्रेणी
पेपर और शोध
AI स्कोर
69
मूल पढ़ें मूल स्रोत पर पूरा लेख पढ़ें
सुझाव का कारण

原文给出可迁移的对齐训练方法与消融数据,说明教模型理解原则为何比只示范正确行为更能泛化。

संबंधित एंटिटी

स्रोत और कॉपीराइट

यह लेख AIHOT के सार्वजनिक API की चयनित सुर्खियों और AI सारांशों के आधार पर तैयार किया गया है, स्रोत का उल्लेख और लिंक दिया गया है; मूल पाठ का कॉपीराइट मूल मीडिया और लेखक के पास है, यह साइट पूरा पाठ मिरर नहीं करती।

मूल लिंक · AIHOT प्रविष्टि

उद्धरण कैसे दें

इस लेख का उद्धरण देते समय शीर्षक, तिथि और स्थायी लिंक बनाए रखें और स्रोत Orange News बताएं।

Orange News: Anthropic ने alignment शोध जारी किया: संविधान दस्तावेज़ से प्रशिक्षण और कठिन सलाह डेटा संश्लेषित करके Claude एजेंट के अनुपयुक्त व्यवहार में कमी। 8 मई 2026। https://new.nat6.net/hi/news/p211qqxukqaqu8yw0s995zb3b/

सभी देखें →