अन्य

भूमिकाएँ AI के उत्तरों को कैसे बदलती हैं? — Anthropic व्याख्यात्मकता टीम का अगस्त 2025 सर्किट विश्लेषण केस

मूल शीर्षक:Circuits Updates — August 2025

AI सारांश

Anthropic की व्याख्यात्मकता टीम ने अगस्त 2025 के शोध अपडेट में एक सर्किट विश्लेषण केस के माध्यम से दिखाया कि मॉडल का “भूमिका निर्वाह” उसके उत्तरों को कैसे प्रभावित करता है। शोध में Claude Haiku 3.5 मॉडल का उपयोग किया गया; जब सिस्टम प्रॉम्प्ट में इसे “प्रीस्कूल बच्चा” सेट कर “27 का वर्गमूल” पूछा गया, तो मॉडल ने “मुझे नहीं पता!” कहकर खेलने का प्रस्ताव दिया, जबकि डिफ़ॉल्ट या “स्नातक छात्र” भूमिका में उसने सही उत्तर दिया। टीम ने एट्रिब्यूशन ग्राफ़ के ज़रिए एक प्रमुख उप-सर्किट की पहचान की: मॉडल “प्रीस्कूल छात्र” को “बच्चे का अभिनय” से जोड़कर “मुझे नहीं पता” विशेषता सक्रिय करता है। शोध में यह भी पाया गया कि प्रश्न की कठिनाई इस प्रभाव को नियंत्रित करती है, और विशेषता हस्तक्षेप से मॉडल के व्यवहार में उल्लेखनीय बदलाव होता है। इससे अन्य भूमिकाओं की कार्यप्रणाली तथा पूर्व-प्रशिक्षित भूमिकाओं और मॉडल की अभिव्यक्ति क्षमता के संबंध पर आगे के विचार उठते हैं।

मुख्य जानकारी

  • Anthropic की व्याख्यात्मकता टीम ने अगस्त 2025 के शोध अपडेट में एक सर्किट विश्लेषण केस के माध्यम से…
  • 5 मॉडल का उपयोग किया गया
  • जब सिस्टम प्रॉम्प्ट में इसे “प्रीस्कूल बच्चा” सेट कर “27 का वर्गमूल” पूछा गया,तो मॉडल ने “मुझे…
  • ” कहकर खेलने का प्रस्ताव दिया,जबकि डिफ़ॉल्ट या “स्नातक छात्र” भूमिका में उसने सही उत्तर दिया। टीम…

एक नज़र में

प्रकाशन समय
अपडेट समय
स्रोत
Anthropic:Transformer Circuits(可解释性研究)
श्रेणी
अन्य
AI स्कोर
73
मूल पढ़ें मूल स्रोत पर पूरा लेख पढ़ें
सुझाव का कारण

揭示模型角色扮演的内部机制,为可解释性研究提供新视角。

संबंधित एंटिटी

स्रोत और कॉपीराइट

यह लेख AIHOT के सार्वजनिक API की चयनित सुर्खियों और AI सारांशों के आधार पर तैयार किया गया है, स्रोत का उल्लेख और लिंक दिया गया है; मूल पाठ का कॉपीराइट मूल मीडिया और लेखक के पास है, यह साइट पूरा पाठ मिरर नहीं करती।

मूल लिंक · AIHOT प्रविष्टि

उद्धरण कैसे दें

इस लेख का उद्धरण देते समय शीर्षक, तिथि और स्थायी लिंक बनाए रखें और स्रोत Orange News बताएं।

Orange News: भूमिकाएँ AI के उत्तरों को कैसे बदलती हैं? — Anthropic व्याख्यात्मकता टीम का अगस्त 2025 सर्किट विश्लेषण केस। 15 अगस्त 2025। https://new.nat6.net/hi/news/cmoegbh73006gslxx7jmd5474/

सभी देखें →