सर्किट ट्रेसिंग: भाषा मॉडलों में गणना ग्राफ़ का अनावरण
मूल शीर्षक:Circuit Tracing: Revealing Computational Graphs in Language Models
AI सारांश
शोध टीम ने “सर्किट ट्रेसिंग” विधि प्रस्तावित की, जो भाषा मॉडलों के व्यवहार के गणना तंत्र को उजागर करती है। यह विधि वैकल्पिक मॉडल में गणना चरणों को ट्रेस करके मॉडल की निष्पादन प्रक्रिया का वर्णन करने वाला ग्राफ़ बनाती है; वैकल्पिक मॉडल अंतर-परत ट्रांसकोडर जैसे व्याख्यायोग्य घटकों से मूल संरचना का अनुमान लगाता है। टीम ने 18-परत भाषा मॉडल के सरल व्यवहार एट्रिब्यूशन ग्राफ़ का अध्ययन करने के लिए दृश्यांकन और सत्यापन उपकरण विकसित किए, जिससे आगे के शोध की नींव रखी गई, और Claude 3.5 Haiku पर लागू करने की योजना है। प्रमुख निर्णयों में विशेषताएँ निकालने के लिए अंतर-परत ट्रांसकोडर का उपयोग और विशेषताओं के बीच रैखिक अंतःक्रिया का एट्रिब्यूशन ग्राफ़ बनाना शामिल है।
मुख्य जानकारी
- शोध टीम ने “सर्किट ट्रेसिंग” विधि प्रस्तावित की,जो भाषा मॉडलों के व्यवहार के गणना तंत्र को उजागर…
- वैकल्पिक मॉडल अंतर-परत ट्रांसकोडर जैसे व्याख्यायोग्य घटकों से मूल संरचना का अनुमान लगाता है। टीम…
- 5 Haiku पर लागू करने की योजना है। प्रमुख निर्णयों में विशेषताएँ निकालने के लिए अंतर-परत ट्रांसकोडर…
एक नज़र में
- प्रकाशन समय
- अपडेट समय
- श्रेणी
- अन्य
- AI स्कोर
- 76
揭示大模型内部机制,为AI安全与调试提供新工具。
संबंधित एंटिटी
स्रोत और कॉपीराइट
यह लेख AIHOT के सार्वजनिक API की चयनित सुर्खियों और AI सारांशों के आधार पर तैयार किया गया है, स्रोत का उल्लेख और लिंक दिया गया है; मूल पाठ का कॉपीराइट मूल मीडिया और लेखक के पास है, यह साइट पूरा पाठ मिरर नहीं करती।
उद्धरण कैसे दें
इस लेख का उद्धरण देते समय शीर्षक, तिथि और स्थायी लिंक बनाए रखें और स्रोत Orange News बताएं।
Orange News: सर्किट ट्रेसिंग: भाषा मॉडलों में गणना ग्राफ़ का अनावरण। 27 मार्च 2025। https://new.nat6.net/hi/news/cmoegbh73006pslxxkpwgqif7/