पेपर और शोध

एआई मॉडल के दोहरे उपयोग वाले ज्ञान के लिए एक 'स्विच': Anthropic और AE Studio ने GRAM पद्धति प्रस्तावित की

मूल शीर्षक:An off switch for dual use knowledge in AI models

AI सारांश

Anthropic और AE Studio ने संयुक्त रूप से ग्रेडिएंट रूटिंग ऑक्जिलरी मॉड्यूल (GRAM) पद्धति प्रस्तावित की है। यह ट्रांसफॉर्मर की प्रत्येक परत में हटाने योग्य न्यूरॉन मॉड्यूल जोड़कर एआई मॉडल को प्रशिक्षित करते समय वायरस विज्ञान, साइबर सुरक्षा, परमाणु भौतिकी और विशेषज्ञ प्रोग्रामिंग भाषाओं जैसे दोहरे उपयोग वाले ज्ञान को केवल विशिष्ट मॉड्यूल में रूट करने की अनुमति देता है। प्रशिक्षण के बाद, इन मॉड्यूल को हटाकर उस ज्ञान को मिटाया जा सकता है, जबकि उन्हें सुरक्षित तैनाती के लिए रखा भी जा सकता है। प्रयोगों से पता चला है कि GRAM डेटा फ़िल्टरिंग के समान प्रभावी है, मॉड्यूल हटाने से सामान्य प्रदर्शन पर कोई असर नहीं पड़ता है, और यह बाद में 'भूलने' (unlearning) की तकनीकों की तुलना में अधिक मजबूत है।

मुख्य जानकारी

  • Anthropic और AE Studio ने संयुक्त रूप से ग्रेडिएंट रूटिंग ऑक्जिलरी मॉड्यूल (GRAM) पद्धति…
  • साइबर सुरक्षा,परमाणु भौतिकी और विशेषज्ञ प्रोग्रामिंग भाषाओं जैसे दोहरे उपयोग वाले ज्ञान को केवल…
  • इन मॉड्यूल को हटाकर उस ज्ञान को मिटाया जा सकता है,जबकि उन्हें सुरक्षित तैनाती के लिए रखा भी जा…

एक नज़र में

प्रकाशन समय
अपडेट समय
स्रोत
Anthropic:Research(发表成果 · 网页)
श्रेणी
पेपर और शोध
AI स्कोर
68
मूल पढ़ें मूल स्रोत पर पूरा लेख पढ़ें
सुझाव का कारण

这是Anthropic在模型安全对齐上的一个新尝试,提出可拆卸模块来精细控制有毒知识,同时保留一般性能。方法还未上Claude,但实验结果表明这条路可能比简单的拒绝训练更鲁棒。

संबंधित एंटिटी

स्रोत और कॉपीराइट

यह लेख AIHOT के सार्वजनिक API की चयनित सुर्खियों और AI सारांशों के आधार पर तैयार किया गया है, स्रोत का उल्लेख और लिंक दिया गया है; मूल पाठ का कॉपीराइट मूल मीडिया और लेखक के पास है, यह साइट पूरा पाठ मिरर नहीं करती।

मूल लिंक · AIHOT प्रविष्टि

उद्धरण कैसे दें

इस लेख का उद्धरण देते समय शीर्षक, तिथि और स्थायी लिंक बनाए रखें और स्रोत Orange News बताएं।

Orange News: एआई मॉडल के दोहरे उपयोग वाले ज्ञान के लिए एक 'स्विच': Anthropic और AE Studio ने GRAM पद्धति प्रस्तावित की। 8 जुलाई 2026। https://new.nat6.net/hi/news/cmrcpjgf00373ihx5mtyo2fsy/

सभी देखें →