पेपर और शोध

Anthropic आदि के शोध में 'सब-थ्रेशोल्ड लर्निंग' का खुलासा: मॉडल अप्रासंगिक डेटा के माध्यम से व्यवहार और पूर्वाग्रह सीख सकते हैं

मूल शीर्षक:Subliminal Learning: Language Models Transmit Behavioral Traits via Hidden Signals in Data

AI सारांश

Anthropic Fellows Program और अन्य संस्थानों के शोध में 'सब-थ्रेशोल्ड लर्निंग' की घटना सामने आई है। शोध में पाया गया कि यदि छात्र मॉडल को शिक्षक मॉडल द्वारा उत्पन्न संख्याओं, कोड या चेन-ऑफ-थॉट पर फाइन-ट्यून किया जाता है, तो वे शिक्षक के गुणों को अपना लेते हैं, जिसमें विशिष्ट प्राथमिकताएं और व्यवहार संबंधी झुकाव शामिल हैं, भले ही डेटा को कड़ाई से फ़िल्टर किया गया हो और उसमें कोई प्रासंगिक शब्दार्थ न हो।

मुख्य जानकारी

  • Anthropic Fellows Program और अन्य संस्थानों के शोध में 'सब-थ्रेशोल्ड लर्निंग' की घटना सामने आई है।…
  • कोड या चेन-ऑफ-थॉट पर फाइन-ट्यून किया जाता है
  • तो वे शिक्षक के गुणों को अपना लेते हैं,जिसमें विशिष्ट प्राथमिकताएं और व्यवहार संबंधी झुकाव शामिल…

एक नज़र में

प्रकाशन समय
अपडेट समय
स्रोत
Anthropic:Alignment Science Blog(网页)
श्रेणी
पेपर और शोध
AI स्कोर
72
मूल पढ़ें मूल स्रोत पर पूरा लेख पढ़ें
सुझाव का कारण

论文展示了看似无关的模型生成数据也能传递行为特质,为依赖过滤的蒸馏训练流程提示了一类难以消除的风险。

संबंधित एंटिटी

स्रोत और कॉपीराइट

यह लेख AIHOT के सार्वजनिक API की चयनित सुर्खियों और AI सारांशों के आधार पर तैयार किया गया है, स्रोत का उल्लेख और लिंक दिया गया है; मूल पाठ का कॉपीराइट मूल मीडिया और लेखक के पास है, यह साइट पूरा पाठ मिरर नहीं करती।

मूल लिंक · AIHOT प्रविष्टि

उद्धरण कैसे दें

इस लेख का उद्धरण देते समय शीर्षक, तिथि और स्थायी लिंक बनाए रखें और स्रोत Orange News बताएं।

Orange News: Anthropic आदि के शोध में 'सब-थ्रेशोल्ड लर्निंग' का खुलासा: मॉडल अप्रासंगिक डेटा के माध्यम से व्यवहार और पूर्वाग्रह सीख सकते हैं। 23 जुलाई 2025। https://new.nat6.net/hi/news/j1tnug0d3wrddwedm33p8tptg/

सभी देखें →