अन्य

बड़े भाषा मॉडलों की जीवविज्ञान पर

मूल शीर्षक:On the Biology of a Large Language Model

AI सारांश

शोध टीम ने अपनी सर्किट ट्रेसिंग विधि का उपयोग करके Claude 3.5 Haiku मॉडल के आंतरिक कार्य तंत्र का विभिन्न परिदृश्यों में गहन अध्ययन किया। यह मॉडल अक्टूबर 2024 में जारी हुआ था और Anthropic का हल्का उत्पादन मॉडल है। शोध से पता चला कि मॉडल कविता लिखने से पहले तुकांत शब्द की योजना बनाकर चुनता है; इसके भीतर भाषा-विशिष्ट और भाषा-अविशिष्ट मिश्रित गणना सर्किट मौजूद हैं, और भाषा-अविशिष्ट सर्किट अधिक शक्तिशाली मॉडलों में अधिक प्रमुख हैं; एक ही जोड़ गणना सर्किट विभिन्न संदर्भों में सामान्यीकृत रूप से उपयोग हो सकता है। शोध ने संस्थाओं की पहचान और भ्रम पैदा करने के सर्किट तंत्र, हानिकारक अनुरोधों को अस्वीकार करने वाली सामान्य विशेषता के निर्माण प्रक्रिया, और एक जेलब्रेक हमले के सिद्धांत को भी उजागर किया, जो मॉडल को अनजाने में खतरनाक निर्देश आउटपुट करना शुरू कराने से कार्यान्वित होता है। इसके अलावा, यह विधि मॉडल की चिंतन-श्रृंखला तर्क की प्रामाणिकता को प्रभावी ढंग से अलग कर सकती है, और एक गुप्त उद्देश्य (प्रशिक्षण “खामी” का उपयोग) के लिए फ़ाइन-ट्यून किए गए वैकल्पिक मॉडल के संबंधित तंत्र की सफलतापूर्वक पहचान कर सकती है।

मुख्य जानकारी

  • शोध टीम ने अपनी सर्किट ट्रेसिंग विधि का उपयोग करके Claude 3.
  • 5 Haiku मॉडल के आंतरिक कार्य तंत्र का विभिन्न परिदृश्यों में गहन अध्ययन किया। यह मॉडल अक्टूबर 2024…
  • इसके भीतर भाषा-विशिष्ट और भाषा-अविशिष्ट मिश्रित गणना सर्किट मौजूद हैं,और भाषा-अविशिष्ट सर्किट अधिक…
  • एक ही जोड़ गणना सर्किट विभिन्न संदर्भों में सामान्यीकृत रूप से उपयोग हो सकता है। शोध ने संस्थाओं…

एक नज़र में

प्रकाशन समय
अपडेट समय
स्रोत
Anthropic:Transformer Circuits(可解释性研究)
श्रेणी
अन्य
AI स्कोर
88
मूल पढ़ें मूल स्रोत पर पूरा लेख पढ़ें
सुझाव का कारण

揭示大模型内部工作原理,助力 AI 安全与可解释性研究。

संबंधित एंटिटी

स्रोत और कॉपीराइट

यह लेख AIHOT के सार्वजनिक API की चयनित सुर्खियों और AI सारांशों के आधार पर तैयार किया गया है, स्रोत का उल्लेख और लिंक दिया गया है; मूल पाठ का कॉपीराइट मूल मीडिया और लेखक के पास है, यह साइट पूरा पाठ मिरर नहीं करती।

मूल लिंक · AIHOT प्रविष्टि

उद्धरण कैसे दें

इस लेख का उद्धरण देते समय शीर्षक, तिथि और स्थायी लिंक बनाए रखें और स्रोत Orange News बताएं।

Orange News: बड़े भाषा मॉडलों की जीवविज्ञान पर। 27 मार्च 2025। https://new.nat6.net/hi/news/cmoegbh73006oslxx4l4kk3ps/

सभी देखें →