OpenAI ने फ्रंटियर मॉडल सुरक्षा निगरानी परत के रूप में एक्टिवेशन क्लासिफायर्स को प्रशिक्षित और तैनात किया
मूल शीर्षक:Training activation classifiers for safety and alignment
AI सारांश
OpenAI ने GPT-5.6 से अपने सबसे शक्तिशाली मॉडलों के लिए एक्टिवेशन क्लासिफायर्स (probes) तैनात किए हैं, जो मॉडल के इंटरनल एक्टिवेशन का उपयोग करके टोकन-दर-टोकन रीयल-टाइम स्कोरिंग करते हैं। यह हानिकारक प्रतिक्रियाओं को जनरेशन के बीच में ही रोककर समीक्षा के लिए भेज सकता है। परीक्षणों से पता चलता है कि probes बड़े टेक्स्ट क्लासिफायर्स की तुलना में जेलब्रेक हमलों के खिलाफ अधिक मजबूत हैं और ट्रेनिंग चेकपॉइंट्स के बीच अच्छी तरह से ट्रांसफर होते हैं।
मुख्य जानकारी
- OpenAI ने GPT-5.
- 6 से अपने सबसे शक्तिशाली मॉडलों के लिए एक्टिवेशन क्लासिफायर्स (probes) तैनात किए हैं
- जो मॉडल के इंटरनल एक्टिवेशन का उपयोग करके टोकन-दर-टोकन रीयल-टाइम स्कोरिंग करते हैं। यह हानिकारक…
एक नज़र में
- प्रकाशन समय
- अपडेट समय
- श्रेणी
- पेपर और शोध
- AI स्कोर
- 63
OpenAI 官方披露激活分类器的架构、训练与部署细节,并给出其相对文本分类器在越狱鲁棒性上的实验对比。
संबंधित एंटिटी
स्रोत और कॉपीराइट
यह लेख AIHOT के सार्वजनिक API की चयनित सुर्खियों और AI सारांशों के आधार पर तैयार किया गया है, स्रोत का उल्लेख और लिंक दिया गया है; मूल पाठ का कॉपीराइट मूल मीडिया और लेखक के पास है, यह साइट पूरा पाठ मिरर नहीं करती।
उद्धरण कैसे दें
इस लेख का उद्धरण देते समय शीर्षक, तिथि और स्थायी लिंक बनाए रखें और स्रोत Orange News बताएं।
Orange News: OpenAI ने फ्रंटियर मॉडल सुरक्षा निगरानी परत के रूप में एक्टिवेशन क्लासिफायर्स को प्रशिक्षित और तैनात किया। 3 नवंबर 2026। https://new.nat6.net/hi/news/wlmiqh13694tqabyvu6nzvlrs/