पेपर और शोध

Apple अनुसंधान: एक ही न्यूरॉन से बड़े भाषा मॉडल का सुरक्षा संरेखण बायपास संभव

मूल शीर्षक:A Single Neuron Is Sufficient to Bypass Safety Alignment in Large Language Models

AI सारांश

Apple के शोधकर्ताओं ने पाया कि सुरक्षा संरेखण दो प्रकार के न्यूरॉन्स द्वारा नियंत्रित होता है: अस्वीकृति न्यूरॉन्स यह नियंत्रित करते हैं कि हानिकारक ज्ञान व्यक्त होगा या नहीं, जबकि अवधारणा न्यूरॉन्स हानिकारक ज्ञान को स्वयं एन्कोड करते हैं। सात मॉडलों (1.7B से 70B पैरामीटर) में केवल एक अस्वीकृति न्यूरॉन को दबाकर सुरक्षा संरेखण को बायपास किया जा सकता है और हानिकारक अनुरोधों का उत्तर दिया जा सकता है; या एक अवधारणा न्यूरॉन को बढ़ाकर हानिरहित प्रॉम्प्ट से हानिकारक सामग्री उत्पन्न की जा सकती है। इस पूरी प्रक्रिया में किसी प्रशिक्षण या प्रॉम्प्ट इंजीनियरिंग की आवश्यकता नहीं होती। परिणाम दर्शाते हैं कि सुरक्षा संरेखण व्यक्तिगत न्यूरॉन्स द्वारा कारणात्मक रूप से नियंत्रित होता है।

मुख्य जानकारी

  • Apple के शोधकर्ताओं ने पाया कि सुरक्षा संरेखण दो प्रकार के न्यूरॉन्स द्वारा नियंत्रित होता है:…
  • 7B से 70B पैरामीटर) में केवल एक अस्वीकृति न्यूरॉन को दबाकर सुरक्षा संरेखण को बायपास किया जा सकता…
  • या एक अवधारणा न्यूरॉन को बढ़ाकर हानिरहित प्रॉम्प्ट से हानिकारक सामग्री उत्पन्न की जा सकती है। इस…

एक नज़र में

प्रकाशन समय
अपडेट समय
स्रोत
Apple Machine Learning Research(RSS)
श्रेणी
पेपर और शोध
AI स्कोर
74
मूल पढ़ें मूल स्रोत पर पूरा लेख पढ़ें
सुझाव का कारण

苹果发现单个神经元足以绕过大模型安全对齐,在7个模型上验证了攻击,说明安全机制并非稳健分布,做安全攻防的必读。

संबंधित एंटिटी

स्रोत और कॉपीराइट

यह लेख AIHOT के सार्वजनिक API की चयनित सुर्खियों और AI सारांशों के आधार पर तैयार किया गया है, स्रोत का उल्लेख और लिंक दिया गया है; मूल पाठ का कॉपीराइट मूल मीडिया और लेखक के पास है, यह साइट पूरा पाठ मिरर नहीं करती।

मूल लिंक · AIHOT प्रविष्टि

उद्धरण कैसे दें

इस लेख का उद्धरण देते समय शीर्षक, तिथि और स्थायी लिंक बनाए रखें और स्रोत Orange News बताएं।

Orange News: Apple अनुसंधान: एक ही न्यूरॉन से बड़े भाषा मॉडल का सुरक्षा संरेखण बायपास संभव। 7 जुलाई 2026। https://new.nat6.net/hi/news/cmrasd6r300i2ihog8ifwrqs5/

सभी देखें →