तंत्र (अ)निष्ठा पर एक खिलौना मॉडल
मूल शीर्षक:A Toy Model of Mechanistic (Un)Faithfulness
AI सारांश
यह लेख “निरपेक्ष मान” खिलौना मॉडल के माध्यम से दिखाता है कि विरल ऑटोएनकोडर (SAE) और ट्रांसकोडर न्यूरल नेटवर्क की व्याख्या करते समय “तंत्र अ-निष्ठा” की समस्या पैदा कर सकते हैं। मुख्य बात यह है कि भले ही ट्रांसकोडर मॉडल के इनपुट-आउटपुट मैपिंग का अच्छा अनुमान लगाए, वह मूल मॉडल से पूरी तरह भिन्न आंतरिक गणना तंत्र अपना सकता है। लेखक विशेष रूप से बताते हैं कि जब प्रशिक्षण डेटा में दोहराए गए बिंदु हों, तो ट्रांसकोडर उस बिंदु को “याद” करने वाला विशेष फ़ीचर सर्किट बना सकता है, जबकि मूल मॉडल में ऐसा तंत्र नहीं होता। यह तंत्र-विचलन वितरण से बाहर के डेटा पर मॉडल के सामान्यीकरण व्यवहार में अंतर ला सकता है, जिससे यांत्रिक व्याख्यात्मकता शोध की विश्वसनीयता को खतरा हो सकता है। लेख अंत में “जैकोबियन मिलान” जैसी संभावित शमन विधियों पर संक्षेप में चर्चा करता है।
मुख्य जानकारी
- यह लेख “निरपेक्ष मान” खिलौना मॉडल के माध्यम से दिखाता है कि विरल ऑटोएनकोडर (SAE) और ट्रांसकोडर…
- वह मूल मॉडल से पूरी तरह भिन्न आंतरिक गणना तंत्र अपना सकता है। लेखक विशेष रूप से बताते हैं कि जब…
- तो ट्रांसकोडर उस बिंदु को “याद” करने वाला विशेष फ़ीचर सर्किट बना सकता है,जबकि मूल मॉडल में ऐसा…
एक नज़र में
- प्रकाशन समय
- अपडेट समय
- श्रेणी
- अन्य
- AI स्कोर
- 78
揭示可解释性方法中潜在的忠实性问题,帮助开发者更可靠地理解模型内部机制。
स्रोत और कॉपीराइट
यह लेख AIHOT के सार्वजनिक API की चयनित सुर्खियों और AI सारांशों के आधार पर तैयार किया गया है, स्रोत का उल्लेख और लिंक दिया गया है; मूल पाठ का कॉपीराइट मूल मीडिया और लेखक के पास है, यह साइट पूरा पाठ मिरर नहीं करती।
उद्धरण कैसे दें
इस लेख का उद्धरण देते समय शीर्षक, तिथि और स्थायी लिंक बनाए रखें और स्रोत Orange News बताएं।
Orange News: तंत्र (अ)निष्ठा पर एक खिलौना मॉडल। 15 जून 2025। https://new.nat6.net/hi/news/cmoegbh73006hslxxvorookrt/