पेपर और शोध

Anthropic व्याख्यात्मकता शोध: समान कारण-प्रभाव वाली विशेषताओं में अंतर

मूल शीर्षक:Circuits Updates — May 2026

AI सारांश

Anthropic की व्याख्यात्मकता टीम ने अपने Circuits शोध में नई प्रगति प्रस्तुत की। उन मॉडल विशेषताओं में अंतर करने के लिए जिनके सक्रियण पैटर्न समान हैं परंतु कारण-प्रभाव भिन्न हैं, टीम ने एक नई विधि प्रस्तावित की। यह विधि विशेषताओं के डाउनस्ट्रीम कनेक्शनों का विश्लेषण करके उनके वास्तविक प्रभाव का अनुमान लगाती है और सह-सक्रियण आँकड़ों पर आधारित TWERA (वर्चुअल वेट) से कनेक्शनों को भारित रूप से क्रमबद्ध करती है। प्रयोगों से पता चलता है कि डाउनस्ट्रीम कनेक्शन जानकारी की सहायता से यह अधिक सटीक रूप से निर्धारित किया जा सकता है कि कौन-सी विशेषता किसी विशिष्ट आउटपुट को निर्देशित करेगी। यह विधि मॉडल के भीतर वास्तविक कारण-प्रभाव घटकों की पहचान के लिए नया मार्ग प्रदान करती है।

एक नज़र में

प्रकाशन समय
अपडेट समय
स्रोत
Anthropic:Transformer Circuits(可解释性研究)
श्रेणी
पेपर और शोध
AI स्कोर
63
मूल पढ़ें मूल स्रोत पर पूरा लेख पढ़ें
सुझाव का कारण

做可解释性研究的同学值得读,它用下游连接区分看似相同的特征,比只看激活例子更能预测因果作用,对齐审计里能省不少试错。

संबंधित एंटिटी

स्रोत और कॉपीराइट

यह लेख AIHOT के सार्वजनिक API की चयनित सुर्खियों और AI सारांशों के आधार पर तैयार किया गया है, स्रोत का उल्लेख और लिंक दिया गया है; मूल पाठ का कॉपीराइट मूल मीडिया और लेखक के पास है, यह साइट पूरा पाठ मिरर नहीं करती।

मूल लिंक · AIHOT प्रविष्टि

उद्धरण कैसे दें

इस लेख का उद्धरण देते समय शीर्षक, तिथि और स्थायी लिंक बनाए रखें और स्रोत Orange News बताएं।

Orange News: Anthropic व्याख्यात्मकता शोध: समान कारण-प्रभाव वाली विशेषताओं में अंतर। 2 जून 2026। https://new.nat6.net/hi/news/cmpwgl5go02q3slsnw6pl0fs5/

सभी देखें →