शब्दकोश-शिक्षण विशेषताओं का वर्गीकरणकर्ता के रूप में उपयोग
मूल शीर्षक:Using Dictionary Learning Features as Classifiers
AI सारांश
Anthropic की व्याख्यात्मकता टीम ने बड़े भाषा मॉडलों से शब्दकोश-शिक्षण द्वारा निकाली गई मानव-व्याख्यायोग्य विशेषताओं को वर्गीकरणकर्ता के रूप में उपयोग करने का अध्ययन किया। जैविक हथियार प्रॉम्प्ट वर्गीकरण कार्य में रैखिक विशेषता वर्गीकरणकर्ता का प्रदर्शन मूल सक्रियण-मान वर्गीकरणकर्ता के बराबर या उससे बेहतर रहा, जबकि विशेषता-आधारित निर्णय वृक्ष वर्गीकरणकर्ता का प्रदर्शन कम था पर व्याख्यात्मकता अधिक थी। विशेषता वर्गीकरणकर्ताओं की व्याख्यात्मकता डेटासेट को देखने और झूठे सहसंबंध खोजने में सहायक है, जिनका उपयोग प्रतिकूल हमले बनाने में किया जा सकता है। हालाँकि, विशेषताओं का उपयोग जटिलता लाता है, इसलिए प्रदर्शन-प्राथमिकता वाले अनुप्रयोगों में मूल सक्रियण मान अभी भी मज़बूत आधार रेखा है। प्रयोगों से पता चला कि विशेषता वर्गीकरणकर्ता का प्रदर्शन तीन बारीकियों से प्रभावित होता है: डेटा में “मानव/सहायक” लेबल का लगातार होना, क्षेत्र-संबंधित डेटा का शब्दकोश-शिक्षण प्रशिक्षण सेट में मिलाया जाना, और संदर्भ पर अधिकतम पूलिंग का उपयोग बनाम केवल अंतिम टोकन के सक्रियण मान का उपयोग।
मुख्य जानकारी
- Anthropic की व्याख्यात्मकता टीम ने बड़े भाषा मॉडलों से शब्दकोश-शिक्षण द्वारा निकाली गई…
- जबकि विशेषता-आधारित निर्णय वृक्ष वर्गीकरणकर्ता का प्रदर्शन कम था पर व्याख्यात्मकता अधिक थी।…
- जिनका उपयोग प्रतिकूल हमले बनाने में किया जा सकता है। हालाँकि,विशेषताओं का उपयोग जटिलता लाता…
एक नज़र में
- प्रकाशन समय
- अपडेट समय
- श्रेणी
- अन्य
- AI स्कोर
- 73
可解释性方法能增强 AI 安全检测,并帮助发现训练数据中的虚假关联。
संबंधित एंटिटी
स्रोत और कॉपीराइट
यह लेख AIHOT के सार्वजनिक API की चयनित सुर्खियों और AI सारांशों के आधार पर तैयार किया गया है, स्रोत का उल्लेख और लिंक दिया गया है; मूल पाठ का कॉपीराइट मूल मीडिया और लेखक के पास है, यह साइट पूरा पाठ मिरर नहीं करती।
उद्धरण कैसे दें
इस लेख का उद्धरण देते समय शीर्षक, तिथि और स्थायी लिंक बनाए रखें और स्रोत Orange News बताएं।
Orange News: शब्दकोश-शिक्षण विशेषताओं का वर्गीकरणकर्ता के रूप में उपयोग। 15 जून 2024। https://new.nat6.net/hi/news/cmoegbh73006uslxxjbk7twca/