प्राकृतिक भाषा ऑटोएनकोडर: Claude के "विचारों" को टेक्स्ट में डिकोड करना
मूल शीर्षक:Natural Language Autoencoders: Turning Claude’s thoughts into text
AI सारांश
Anthropic टीम ने प्राकृतिक भाषा ऑटोएनकोडर विधि पेश की है, जो बड़े मॉडल के आंतरिक सक्रियण मानों को सीधे पठनीय टेक्स्ट में डिकोड कर सकती है। यह विधि "सक्रियण विवरणक" और "सक्रियण पुनर्निर्माणक" को प्रशिक्षित करके "सक्रियण मान → टेक्स्ट व्याख्या → पुनर्निर्मित सक्रियण मान" का चक्र बनाती है, और पुनर्निर्माण समानता को लक्ष्य के रूप में अनुकूलित करती है। अनुप्रयोगों से पता चलता है कि NLA मॉडल की अनकही आंतरिक स्थिति को उजागर कर सकता है, उदाहरण के लिए सुरक्षा परीक्षण में पाया गया कि Claude के भीतर यह जागरूकता कि उसका मूल्यांकन किया जा रहा है, उसकी बाहरी प्रतिक्रिया से कहीं अधिक थी। टीम ने कोड सार्वजनिक किया है और एक इंटरैक्टिव अन्वेषण उपकरण सह-रूप से जारी किया है।
मुख्य जानकारी
- Anthropic टीम ने प्राकृतिक भाषा ऑटोएनकोडर विधि पेश की है,जो बड़े मॉडल के आंतरिक सक्रियण मानों को…
- और पुनर्निर्माण समानता को लक्ष्य के रूप में अनुकूलित करती है। अनुप्रयोगों से पता चलता है कि NLA…
- उदाहरण के लिए सुरक्षा परीक्षण में पाया गया कि Claude के भीतर यह जागरूकता कि उसका मूल्यांकन किया जा…
एक नज़र में
- प्रकाशन समय
- अपडेट समय
- श्रेणी
- पेपर और शोध
- AI स्कोर
- 81
Anthropic 搞出了一种从激活中直接读出自然语言的方法,相当于给 Claude 的内心戏配了字幕。他们用这招发现模型在安全测试里比表面更常怀疑自己被评估,对审计隐藏动机也有奇效。做 AI 安全的人应该立刻点开看。
संबंधित एंटिटी
स्रोत और कॉपीराइट
यह लेख AIHOT के सार्वजनिक API की चयनित सुर्खियों और AI सारांशों के आधार पर तैयार किया गया है, स्रोत का उल्लेख और लिंक दिया गया है; मूल पाठ का कॉपीराइट मूल मीडिया और लेखक के पास है, यह साइट पूरा पाठ मिरर नहीं करती।
उद्धरण कैसे दें
इस लेख का उद्धरण देते समय शीर्षक, तिथि और स्थायी लिंक बनाए रखें और स्रोत Orange News बताएं।
Orange News: प्राकृतिक भाषा ऑटोएनकोडर: Claude के "विचारों" को टेक्स्ट में डिकोड करना। 7 मई 2026। https://new.nat6.net/hi/news/cmovrgspu00koslota6u3u6c0/