OpenAI ने स्वचालित रेड-टीम प्रशिक्षण से GPT-6 Astra और Sol की उच्च-जोखिम क्षेत्रों में अस्पष्ट मज़बूती बढ़ाई
मूल शीर्षक:Improving Fuzzy Robustness in LLM Safety with Automated Red Teaming
AI सारांश
OpenAI शोध टीम ने बताया कि कैसे स्वचालित रेड-टीमिंग से साइबर और जैव जैसे उच्च-जोखिम दोहरे-उपयोग क्षेत्रों में मॉडल की अस्पष्ट मज़बूती बढ़ाई जाती है; हमलावर मॉडल की परीक्षण-समय गणना क्षमता बढ़ाकर जेलब्रेक की पुनरावृत्त खोज की जाती है और हमले को कई बार दोहराए गए परीक्षणों में सफल होना आवश्यक होता है (worst@n), जिससे RL प्रशिक्षण के लिए विश्वसनीय प्रतिकूल प्रशिक्षण डेटा तैयार होता है।
मुख्य जानकारी
- OpenAI शोध टीम ने बताया कि कैसे स्वचालित रेड-टीमिंग से साइबर और जैव जैसे उच्च-जोखिम दोहरे-उपयोग…
- हमलावर मॉडल की परीक्षण-समय गणना क्षमता बढ़ाकर जेलब्रेक की पुनरावृत्त खोज की जाती है और हमले को कई…
- जिससे RL प्रशिक्षण के लिए विश्वसनीय प्रतिकूल प्रशिक्षण डेटा तैयार होता है।
एक नज़र में
- प्रकाशन समय
- अपडेट समय
- श्रेणी
- पेपर और शोध
- AI स्कोर
- 62
OpenAI 自己披露的训练方法细节,展示了用自动化攻击生成数据提升模糊鲁棒性的可控实验和结果。
संबंधित एंटिटी
स्रोत और कॉपीराइट
यह लेख AIHOT के सार्वजनिक API की चयनित सुर्खियों और AI सारांशों के आधार पर तैयार किया गया है, स्रोत का उल्लेख और लिंक दिया गया है; मूल पाठ का कॉपीराइट मूल मीडिया और लेखक के पास है, यह साइट पूरा पाठ मिरर नहीं करती।
उद्धरण कैसे दें
इस लेख का उद्धरण देते समय शीर्षक, तिथि और स्थायी लिंक बनाए रखें और स्रोत Orange News बताएं।
Orange News: OpenAI ने स्वचालित रेड-टीम प्रशिक्षण से GPT-6 Astra और Sol की उच्च-जोखिम क्षेत्रों में अस्पष्ट मज़बूती बढ़ाई। 12 नवंबर 2026। https://new.nat6.net/hi/news/yg97h3u5vthadivuv5po5f0aw/