Anthropic ने एब्स्ट्रैक्टिव रेड-टीमिंग विधि पेश की, जो क्वेरी श्रेणी स्तर पर मॉडल के व्यक्तित्व उल्लंघनों का परीक्षण करती है
मूल शीर्षक:Abstractive Red-Teaming of Language Model Character
AI सारांश
Anthropic फेलो प्रोग्राम टीम ने एब्स्ट्रैक्टिव रेड-टीमिंग का प्रस्ताव दिया है। यह एकल क्वेरी के बजाय प्राकृतिक भाषा क्वेरी श्रेणियों को खोजकर उन विफलता पैटर्न की पहचान करता है जो बड़े भाषा मॉडल को उनके व्यक्तित्व दिशानिर्देशों का उल्लंघन करने के लिए प्रेरित करते हैं। इसके लिए CRL और QCI नामक दो खोज एल्गोरिदम प्रस्तावित किए गए हैं।
एक नज़र में
- प्रकाशन समय
- अपडेट समय
- श्रेणी
- पेपर और शोध
- AI स्कोर
- 60
原文提出在自然语言查询类别层面搜索模型性格违规的红队方法,并给出七个模型上的具体失败案例和两种搜索算法。
संबंधित एंटिटी
स्रोत और कॉपीराइट
यह लेख AIHOT के सार्वजनिक API की चयनित सुर्खियों और AI सारांशों के आधार पर तैयार किया गया है, स्रोत का उल्लेख और लिंक दिया गया है; मूल पाठ का कॉपीराइट मूल मीडिया और लेखक के पास है, यह साइट पूरा पाठ मिरर नहीं करती।
उद्धरण कैसे दें
इस लेख का उद्धरण देते समय शीर्षक, तिथि और स्थायी लिंक बनाए रखें और स्रोत Orange News बताएं।
Orange News: Anthropic ने एब्स्ट्रैक्टिव रेड-टीमिंग विधि पेश की, जो क्वेरी श्रेणी स्तर पर मॉडल के व्यक्तित्व उल्लंघनों का परीक्षण करती है। 11 मार्च 2026। https://new.nat6.net/hi/news/h0g29uwj94dkfoeuultc6yrtf/