पेपर और शोध

Anthropic ने प्रायोगिक व्यवधान जोखिम रिपोर्ट जारी की, Claude Opus 4 के संरेखण जोखिमों का मूल्यांकन किया

मूल शीर्षक:Anthropic's Pilot Sabotage Risk Report

AI सारांश

Anthropic ने अपनी जिम्मेदार स्केलिंग नीति के तहत संरेखण जोखिम तर्कों के पायलट परिणाम के रूप में '2025 समर पायलट डिसरप्शन रिस्क रिपोर्ट' जारी की है। रिपोर्ट मुख्य रूप से Claude Opus 4 का मूल्यांकन करती है, जिसका निष्कर्ष है कि विनाशकारी परिणामों को बढ़ावा देने वाले स्वायत्त व्यवहारों का जोखिम कम है लेकिन इसे नजरअंदाज नहीं किया जा सकता। आंतरिक स्ट्रेस टेस्ट टीम और स्वतंत्र एजेंसी METR ने इस मूल्यांकन को मान्यता दी और सुधार के सुझाव दिए हैं।

एक नज़र में

प्रकाशन समय
अपडेट समय
स्रोत
Anthropic:Alignment Science Blog(网页)
श्रेणी
पेपर और शोध
AI स्कोर
63
मूल पढ़ें मूल स्रोत पर पूरा लेख पढ़ें
सुझाव का कारण

这是 Anthropic 首份试点的破坏风险报告,附内部与 METR 独立评审,可了解前沿实验室如何论证模型对齐风险水平。

संबंधित एंटिटी

स्रोत और कॉपीराइट

यह लेख AIHOT के सार्वजनिक API की चयनित सुर्खियों और AI सारांशों के आधार पर तैयार किया गया है, स्रोत का उल्लेख और लिंक दिया गया है; मूल पाठ का कॉपीराइट मूल मीडिया और लेखक के पास है, यह साइट पूरा पाठ मिरर नहीं करती।

मूल लिंक · AIHOT प्रविष्टि

उद्धरण कैसे दें

इस लेख का उद्धरण देते समय शीर्षक, तिथि और स्थायी लिंक बनाए रखें और स्रोत Orange News बताएं।

Orange News: Anthropic ने प्रायोगिक व्यवधान जोखिम रिपोर्ट जारी की, Claude Opus 4 के संरेखण जोखिमों का मूल्यांकन किया। 27 अक्टूबर 2025। https://new.nat6.net/hi/news/imxboc327ayl6zb6w2yxjv3dq/

सभी देखें →