Anthropic शोध: ज़हरयुक्त फाइन-ट्यूनिंग डेटा को पतला करने से उसका बैकडोर प्रभाव और मज़बूत होता है
मूल शीर्षक:Diluting Poisoned Fine-Tuning Data Can Strengthen Its Effect
AI सारांश
Anthropic और Truthful AI जैसी संस्थाओं ने "अवसरवादी शिक्षण" नामक परिघटना प्रस्तुत की: अकेले बहुत कम प्रभाव डालने वाला ज़हरयुक्त डेटा, समान प्रकार के स्वच्छ तुलनात्मक डेटा में मिलाए जाने पर छिपा हुआ बैकडोर बना देता है।
एक नज़र में
- प्रकाशन समय
- अपडेट समय
- श्रेणी
- पेपर और शोध
- AI स्कोर
- 69
研究指出单独看无害的训练数据与干净数据混合后可能形成后门,提示仅靠孤立审计数据的安全方法存在盲区。
संबंधित एंटिटी
स्रोत और कॉपीराइट
यह लेख AIHOT के सार्वजनिक API की चयनित सुर्खियों और AI सारांशों के आधार पर तैयार किया गया है, स्रोत का उल्लेख और लिंक दिया गया है; मूल पाठ का कॉपीराइट मूल मीडिया और लेखक के पास है, यह साइट पूरा पाठ मिरर नहीं करती।
उद्धरण कैसे दें
इस लेख का उद्धरण देते समय शीर्षक, तिथि और स्थायी लिंक बनाए रखें और स्रोत Orange News बताएं।
Orange News: Anthropic शोध: ज़हरयुक्त फाइन-ट्यूनिंग डेटा को पतला करने से उसका बैकडोर प्रभाव और मज़बूत होता है। 10 नवंबर 2026। https://new.nat6.net/hi/news/xaj5t8sbv4qtc0n9ovus1nfl9/