अन्य

Circuits अपडेट — अप्रैल 2025

मूल शीर्षक:Circuits Updates — April 2025

AI सारांश

Anthropic की व्याख्यात्मकता टीम ने अप्रैल 2025 की शोध प्रगति साझा की, जिसमें एक असफल जेलब्रेक हमले के मामले का विश्लेषण किया गया। टीम ने उसी मॉडल पर सर्किट ट्रेसिंग विधि लागू करते हुए पाया कि मॉडल ने इस जेलब्रेक प्रयास को अस्वीकार करने का कारण उस आधारभूत कारण से भिन्न था जिससे उसने शोधपत्र में सीधे हानिकारक अनुरोधों को अस्वीकार किया था। मॉडल इस विशिष्ट संरचना वाले जेलब्रेक प्रॉम्प्ट को अधिक बार अस्वीकार करता प्रतीत हुआ। विश्लेषण से यह भी पता चला कि उदाहरणों के बहुत संकीर्ण वितरण के कारण विशेषता दृश्यांकन भ्रामक हो सकता है, जो विविध डेटा के उपयोग के महत्व को उजागर करता है। ये निष्कर्ष प्रारंभिक प्रयोगों से हैं, किसी परिपक्व शोधपत्र के निष्कर्ष नहीं।

मुख्य जानकारी

  • Anthropic की व्याख्यात्मकता टीम ने अप्रैल 2025 की शोध प्रगति साझा की
  • जिसमें एक असफल जेलब्रेक हमले के मामले का विश्लेषण किया गया। टीम ने उसी मॉडल पर सर्किट ट्रेसिंग…
  • जो विविध डेटा के उपयोग के महत्व को उजागर करता है। ये निष्कर्ष प्रारंभिक प्रयोगों से हैं,किसी…

एक नज़र में

प्रकाशन समय
अपडेट समय
स्रोत
Anthropic:Transformer Circuits(可解释性研究)
श्रेणी
अन्य
AI स्कोर
80
मूल पढ़ें मूल स्रोत पर पूरा लेख पढ़ें
सुझाव का कारण

可解释性研究揭示越狱内部机制,助力AI安全与模型理解。

संबंधित एंटिटी

स्रोत और कॉपीराइट

यह लेख AIHOT के सार्वजनिक API की चयनित सुर्खियों और AI सारांशों के आधार पर तैयार किया गया है, स्रोत का उल्लेख और लिंक दिया गया है; मूल पाठ का कॉपीराइट मूल मीडिया और लेखक के पास है, यह साइट पूरा पाठ मिरर नहीं करती।

मूल लिंक · AIHOT प्रविष्टि

उद्धरण कैसे दें

इस लेख का उद्धरण देते समय शीर्षक, तिथि और स्थायी लिंक बनाए रखें और स्रोत Orange News बताएं।

Orange News: Circuits अपडेट — अप्रैल 2025। 15 अप्रैल 2025। https://new.nat6.net/hi/news/cmoegbh73006mslxxbggdsnmi/

सभी देखें →