अन्य

जुलाई 2024 सर्किट अपडेट: तंत्रिका नेटवर्क की तंत्र समझ की ओर अगली पाँच चुनौतियाँ

मूल शीर्षक:Circuits Updates — July 2024

AI सारांश

Anthropic की व्याख्यात्मकता टीम ने जुलाई 2024 की कई शोध प्रगतियों और प्रारंभिक विचारों को साझा किया तथा भविष्य की पाँच प्रमुख चुनौतियों की ओर संकेत किया। इन चुनौतियों में शामिल हैं: बड़ी संख्या में अ-निकाले गए "गुम विशेषताएँ" जो तंत्रिका नेटवर्क का "डार्क मैटर" बन सकती हैं; परत-पार सुपरपोज़िशन जिससे विशेषताओं को विशिष्ट परतों में मैप करना कठिन हो जाता है; अटेंशन सुपरपोज़िशन जो इंडक्शन हेड्स जैसी बुनियादी इकाइयों की वास्तविक संरचना को छिपा सकता है; भार सुपरपोज़िशन से उत्पन्न "हस्तक्षेप भार" जो सर्किट विश्लेषण में भ्रम पैदा करता है; और सूक्ष्म सर्किट समझ को व्यापक मॉडल ज्ञान में कैसे एकीकृत किया जाए। टीम का मानना है कि विशेषता सुपरपोज़िशन जैसे मुद्दों पर उल्लेखनीय प्रगति के बावजूद, ये नई चुनौतियाँ तंत्रिका नेटवर्क की तंत्रात्मक समझ की राह में प्रमुख बाधाएँ हैं।

मुख्य जानकारी

  • Anthropic की व्याख्यात्मकता टीम ने जुलाई 2024 की कई शोध प्रगतियों और प्रारंभिक विचारों को साझा…
  • परत-पार सुपरपोज़िशन जिससे विशेषताओं को विशिष्ट परतों में मैप करना कठिन हो जाता है
  • अटेंशन सुपरपोज़िशन जो इंडक्शन हेड्स जैसी बुनियादी इकाइयों की वास्तविक संरचना को छिपा सकता है
  • भार सुपरपोज़िशन से उत्पन्न "हस्तक्षेप भार" जो सर्किट विश्लेषण में भ्रम पैदा करता है
  • और सूक्ष्म सर्किट समझ को व्यापक मॉडल ज्ञान में कैसे एकीकृत किया जाए। टीम का मानना है कि विशेषता…

एक नज़र में

प्रकाशन समय
अपडेट समय
स्रोत
Anthropic:Transformer Circuits(可解释性研究)
श्रेणी
अन्य
AI स्कोर
76
मूल पढ़ें मूल स्रोत पर पूरा लेख पढ़ें
सुझाव का कारण

可解释性研究新挑战,帮助理解AI模型黑箱,对安全和信任至关重要。

संबंधित एंटिटी

स्रोत और कॉपीराइट

यह लेख AIHOT के सार्वजनिक API की चयनित सुर्खियों और AI सारांशों के आधार पर तैयार किया गया है, स्रोत का उल्लेख और लिंक दिया गया है; मूल पाठ का कॉपीराइट मूल मीडिया और लेखक के पास है, यह साइट पूरा पाठ मिरर नहीं करती।

मूल लिंक · AIHOT प्रविष्टि

उद्धरण कैसे दें

इस लेख का उद्धरण देते समय शीर्षक, तिथि और स्थायी लिंक बनाए रखें और स्रोत Orange News बताएं।

Orange News: जुलाई 2024 सर्किट अपडेट: तंत्रिका नेटवर्क की तंत्र समझ की ओर अगली पाँच चुनौतियाँ। 15 जुलाई 2024। https://new.nat6.net/hi/news/cmoegbh73006xslxx1o7ldjxk/

सभी देखें →