OpenAI ने GPT-Red जारी किया: स्वचालित रेड टीम परीक्षण से मॉडल मजबूती बढ़ाई
मूल शीर्षक:GPT-Red: Unlocking Self-Improvement for Robustness
AI सारांश
OpenAI ने स्वचालित रेड टीम मॉडल GPT-Red को प्रशिक्षित किया है, जिसका उपयोग तैनाती से पहले कमजोरियों का पता लगाने और प्रशिक्षण के दौरान हमले उत्पन्न करके मॉडल की मजबूती बढ़ाने के लिए किया जाता है। GPT-Red पहले के लगभग सभी मॉडलों को तोड़ सकता है; इसके हमलों का उपयोग GPT-5.6 Sol के विरुद्ध प्रशिक्षण में किया गया, जिससे सीधे प्रॉम्प्ट इंजेक्शन बेंचमार्क में उस मॉडल की विफलता दर चार महीने पहले के सर्वश्रेष्ठ उत्पादन मॉडल के 1/6 तक घट गई। GPT-Red को स्व-खेल सुदृढ़ीकरण अधिगम के माध्यम से प्रशिक्षित किया गया, जिसमें OpenAI के पोस्ट-ट्रेनिंग में अभूतपूर्व कंप्यूट स्केल निवेश किया गया।
मुख्य जानकारी
- OpenAI ने स्वचालित रेड टीम मॉडल GPT-Red को प्रशिक्षित किया है,जिसका उपयोग तैनाती से पहले कमजोरियों…
- इसके हमलों का उपयोग GPT-5.
- 6 Sol के विरुद्ध प्रशिक्षण में किया गया,जिससे सीधे प्रॉम्प्ट इंजेक्शन बेंचमार्क में उस मॉडल की…
एक नज़र में
- प्रकाशन समय
- अपडेट समय
- श्रेणी
- मॉडल लॉन्च
- AI स्कोर
- 67
OpenAI 用自博弈训练出的红队模型 GPT-Red,把直接提示注入攻击成功率压到了 0.05%,而且没有降低模型能力。做 AI 安全的人应该好好读一下他们怎么实现这个飞轮的。
संबंधित एंटिटी
स्रोत और कॉपीराइट
यह लेख AIHOT के सार्वजनिक API की चयनित सुर्खियों और AI सारांशों के आधार पर तैयार किया गया है, स्रोत का उल्लेख और लिंक दिया गया है; मूल पाठ का कॉपीराइट मूल मीडिया और लेखक के पास है, यह साइट पूरा पाठ मिरर नहीं करती।
उद्धरण कैसे दें
इस लेख का उद्धरण देते समय शीर्षक, तिथि और स्थायी लिंक बनाए रखें और स्रोत Orange News बताएं।
Orange News: OpenAI ने GPT-Red जारी किया: स्वचालित रेड टीम परीक्षण से मॉडल मजबूती बढ़ाई। 15 जुलाई 2026। https://new.nat6.net/hi/news/cmrmc527c0088bivcfrd3s2uz/