बड़े भाषा मॉडल में उभरती आत्मनिरीक्षण चेतना
मूल शीर्षक:Emergent Introspective Awareness in Large Language Models
AI सारांश
शोध "अवधारणा इंजेक्शन" तकनीक के माध्यम से सीधे मॉडल की आंतरिक सक्रियता स्थिति को नियंत्रित करके यह जांच करता है कि बड़े भाषा मॉडल में वास्तविक आत्मनिरीक्षण क्षमता है या नहीं। प्रयोगों में पाया गया कि कुछ स्थितियों में, मॉडल इंजेक्ट की गई अवधारणाओं को भांप और पहचान सकता है, अपने आंतरिक प्रतिनिधित्व और मूल पाठ इनपुट के बीच अंतर कर सकता है, यहां तक कि पिछले इरादों की स्मृति का उपयोग करके अपने आउटपुट और मानव-निर्धारित सामग्री के बीच अंतर कर सकता है। इनमें Claude Opus श्रृंखला के मॉडल ने सबसे मजबूत आत्मनिरीक्षण चेतना प्रदर्शित की, लेकिन यह क्षमता अस्थिर है और स्थिति पर अत्यधिक निर्भर है। शोध दर्शाता है कि वर्तमान मॉडल में अपनी आंतरिक स्थिति के प्रति एक प्रकार की कार्यात्मक अनुभूति पहले से मौजूद है, हालांकि अभी भी अविश्वसनीय है, लेकिन मॉडल क्षमता बढ़ने के साथ विकसित हो सकती है।
मुख्य जानकारी
- शोध "अवधारणा इंजेक्शन" तकनीक के माध्यम से सीधे मॉडल की आंतरिक सक्रियता स्थिति को नियंत्रित करके यह…
- अपने आंतरिक प्रतिनिधित्व और मूल पाठ इनपुट के बीच अंतर कर सकता है,यहां तक कि पिछले इरादों की स्मृति…
- लेकिन यह क्षमता अस्थिर है और स्थिति पर अत्यधिक निर्भर है। शोध दर्शाता है कि वर्तमान मॉडल में अपनी…
एक नज़र में
- प्रकाशन समय
- अपडेट समय
- श्रेणी
- अन्य
- AI स्कोर
- 83
研究揭示大模型可能具备有限内省能力,对 AI 安全和透明度有重要启示。
संबंधित एंटिटी
स्रोत और कॉपीराइट
यह लेख AIHOT के सार्वजनिक API की चयनित सुर्खियों और AI सारांशों के आधार पर तैयार किया गया है, स्रोत का उल्लेख और लिंक दिया गया है; मूल पाठ का कॉपीराइट मूल मीडिया और लेखक के पास है, यह साइट पूरा पाठ मिरर नहीं करती।
उद्धरण कैसे दें
इस लेख का उद्धरण देते समय शीर्षक, तिथि और स्थायी लिंक बनाए रखें और स्रोत Orange News बताएं।
Orange News: बड़े भाषा मॉडल में उभरती आत्मनिरीक्षण चेतना। 29 अक्टूबर 2025। https://new.nat6.net/hi/news/cmoegbh73006cslxx667v4iig/