अन्य

चरणबद्ध मॉडल अंतर विश्लेषण

मूल शीर्षक:Stage-Wise Model Diffing

AI सारांश

Anthropic की व्याख्यात्मकता टीम ने शब्दकोश-शिक्षण आधारित मॉडल अंतर विश्लेषण विधि प्रस्तावित की, जो Transformer मॉडल के फ़ाइन-ट्यूनिंग में विशेषताओं के परिवर्तन को ट्रेस करती है। यह विधि पहले फ़ाइन-ट्यूनिंग से पहले के मॉडल पर विरल ऑटोएनकोडर शब्दकोश प्रशिक्षित करती है, फिर शब्दकोश को ही चरणबद्ध रूप से फ़ाइन-ट्यून करती है ताकि डेटासेट परिवर्तन और मॉडल परिवर्तन के प्रभावों को अलग किया जा सके। स्लीपर एजेंट प्रयोगों में “I HATE YOU” जैसे दुर्भावनापूर्ण व्यवहार और कोड भेद्यता एजेंट से संबंधित विशेषताओं को सफलतापूर्वक अलग किया गया। क्रॉस-एनकोडर विधि की तुलना में यह विधि मॉडल और डेटा के प्रभावों को अधिक स्पष्ट रूप से अलग कर सकती है, और कुछ प्रमुख विशेषताओं को खोजने में अधिक संवेदनशील है, पर यह केवल एक ही मॉडल के विभिन्न चेकपॉइंट पर फ़ाइन-ट्यूनिंग परिदृश्यों के लिए उपयुक्त है।

मुख्य जानकारी

  • Anthropic की व्याख्यात्मकता टीम ने शब्दकोश-शिक्षण आधारित मॉडल अंतर विश्लेषण विधि प्रस्तावित की
  • जो Transformer मॉडल के फ़ाइन-ट्यूनिंग में विशेषताओं के परिवर्तन को ट्रेस करती है। यह विधि पहले…
  • और कुछ प्रमुख विशेषताओं को खोजने में अधिक संवेदनशील है,पर यह केवल एक ही मॉडल के विभिन्न चेकपॉइंट…

एक नज़र में

प्रकाशन समय
अपडेट समय
स्रोत
Anthropic:Transformer Circuits(可解释性研究)
श्रेणी
अन्य
AI स्कोर
83
मूल पढ़ें मूल स्रोत पर पूरा लेख पढ़ें
सुझाव का कारण

新方法能更精准识别模型隐藏行为,对 AI 安全与可解释性研究有实用价值。

संबंधित एंटिटी

स्रोत और कॉपीराइट

यह लेख AIHOT के सार्वजनिक API की चयनित सुर्खियों और AI सारांशों के आधार पर तैयार किया गया है, स्रोत का उल्लेख और लिंक दिया गया है; मूल पाठ का कॉपीराइट मूल मीडिया और लेखक के पास है, यह साइट पूरा पाठ मिरर नहीं करती।

मूल लिंक · AIHOT प्रविष्टि

उद्धरण कैसे दें

इस लेख का उद्धरण देते समय शीर्षक, तिथि और स्थायी लिंक बनाए रखें और स्रोत Orange News बताएं।

Orange News: चरणबद्ध मॉडल अंतर विश्लेषण। 15 जून 2024। https://new.nat6.net/hi/news/cmoegbh73006sslxx2ezjdbyz/

सभी देखें →