पेपर और शोध

यूके एआई सिक्योरिटी इंस्टीट्यूट ने Anthropic के साथ मिलकर अब तक का सबसे बड़ा डेटा पॉइजनिंग शोध जारी किया

मूल शीर्षक:Examining backdoor data poisoning at scale

AI सारांश

यूके एआई सिक्योरिटी इंस्टीट्यूट ने Anthropic और एलन ट्यूरिंग इंस्टीट्यूट के साथ मिलकर अब तक का सबसे बड़ा डेटा पॉइजनिंग शोध जारी किया है। टीम ने 600M से 13B पैरामीटर तक के चार अलग-अलग मॉडलों पर एक ही बैकडोर हमले का परीक्षण किया। पाया गया कि प्रशिक्षण डेटा को सफलतापूर्वक पॉइजन करने के लिए केवल 250 दस्तावेजों की आवश्यकता है। यह संख्या मॉडल या डेटासेट के आकार के साथ नहीं बढ़ती है, जिससे यह धारणा गलत साबित होती है कि सफल हमलों के लिए अनुपात में पॉइजनिंग की आवश्यकता होती है, जो इसे पहले की तुलना में अधिक व्यवहार्य बनाता है।

मुख्य जानकारी

  • यूके एआई सिक्योरिटी इंस्टीट्यूट ने Anthropic और एलन ट्यूरिंग इंस्टीट्यूट के साथ मिलकर अब तक का…
  • जिससे यह धारणा गलत साबित होती है कि सफल हमलों के लिए अनुपात में पॉइजनिंग की आवश्यकता होती है
  • जो इसे पहले की तुलना में अधिक व्यवहार्य बनाता है।

एक नज़र में

प्रकाशन समय
अपडेट समय
स्रोत
英国 AI Security Institute:Blog(网页)
श्रेणी
पेपर और शोध
AI स्कोर
67
मूल पढ़ें मूल स्रोत पर पूरा लेख पढ़ें
सुझाव का कारण

研究给出与既往假设相反的结论,即毒化所需文档数不随模型规模增长,对理解后门攻击可行性有直接参考价值。

संबंधित एंटिटी

स्रोत और कॉपीराइट

यह लेख AIHOT के सार्वजनिक API की चयनित सुर्खियों और AI सारांशों के आधार पर तैयार किया गया है, स्रोत का उल्लेख और लिंक दिया गया है; मूल पाठ का कॉपीराइट मूल मीडिया और लेखक के पास है, यह साइट पूरा पाठ मिरर नहीं करती।

मूल लिंक · AIHOT प्रविष्टि

उद्धरण कैसे दें

इस लेख का उद्धरण देते समय शीर्षक, तिथि और स्थायी लिंक बनाए रखें और स्रोत Orange News बताएं।

Orange News: यूके एआई सिक्योरिटी इंस्टीट्यूट ने Anthropic के साथ मिलकर अब तक का सबसे बड़ा डेटा पॉइजनिंग शोध जारी किया। 9 अक्टूबर 2025। https://new.nat6.net/hi/news/grawjenhg3yqy3qnmbnffiqx7/

सभी देखें →