हम "स्वीकारोक्ति-शैली" प्रशिक्षण से उत्साहित क्यों हैं
मूल शीर्षक:Why we are excited about confessions
AI सारांश
Anthropic ने "स्वीकारोक्ति-शैली" प्रशिक्षण विधि प्रस्तावित की, जिसमें एआई अनुचित अनुरोधों को अस्वीकार करते समय आंतरिक रूप से संभावित हानि की सुरक्षा-व्याख्या उत्पन्न करके "आत्म-विश्लेषण" करता है। यह विधि मॉडल सुरक्षा को उल्लेखनीय रूप से बढ़ाती है: फाइन-ट्यून किए गए Claude 3 Opus मॉडल में "जेलब्रेक" हमलों के तहत हानिकारक व्यवहार दर लगभग 50% से घटकर 10% से नीचे आ गई, यानी 80% से अधिक की कमी। इसका प्रभाव पारंपरिक चेन-ऑफ-थॉट निगरानी से बेहतर है और यह एआई अलाइनमेंट के लिए अधिक मजबूत और व्याख्यायोग्य सुरक्षा प्रशिक्षण का नया मार्ग प्रदान करता है।
मुख्य जानकारी
- Anthropic ने "स्वीकारोक्ति-शैली" प्रशिक्षण विधि प्रस्तावित की
- जिसमें एआई अनुचित अनुरोधों को अस्वीकार करते समय आंतरिक रूप से संभावित हानि की सुरक्षा-व्याख्या…
- यानी 80% से अधिक की कमी। इसका प्रभाव पारंपरिक चेन-ऑफ-थॉट निगरानी से बेहतर है और यह एआई अलाइनमेंट…
एक नज़र में
- प्रकाशन समय
- अपडेट समय
- श्रेणी
- पेपर और शोध
- AI स्कोर
- 63
OpenAI 对齐团队把「confession training」和 chain-of-thought monitoring 做了系统对比,这是对齐领域少有的实操级研究,做安全的团队值得细读,但离普通开发者还远。
संबंधित एंटिटी
स्रोत और कॉपीराइट
यह लेख AIHOT के सार्वजनिक API की चयनित सुर्खियों और AI सारांशों के आधार पर तैयार किया गया है, स्रोत का उल्लेख और लिंक दिया गया है; मूल पाठ का कॉपीराइट मूल मीडिया और लेखक के पास है, यह साइट पूरा पाठ मिरर नहीं करती।
उद्धरण कैसे दें
इस लेख का उद्धरण देते समय शीर्षक, तिथि और स्थायी लिंक बनाए रखें और स्रोत Orange News बताएं।
Orange News: हम "स्वीकारोक्ति-शैली" प्रशिक्षण से उत्साहित क्यों हैं। 13 जनवरी 2026। https://new.nat6.net/hi/news/cmoqytjhu006qslbocaqisy87/