OpenAI ने अपने ही AI पर AI से हमला किया: GPT-Red स्वचालित रूप से सुरक्षा खामियां खोजता है, सफलता दर 84% मानव से कहीं अधिक
मूल शीर्षक:OpenAI is now using AI to attack its own AI, and it's working better than humans ever did
AI सारांश
OpenAI ने आंतरिक AI मॉडल GPT-Red को प्रशिक्षित किया है, जो स्व-खेल सुदृढ़ीकरण अधिगम के माध्यम से प्रॉम्प्ट इंजेक्शन जैसे हमलों का स्वचालित अनुकरण करता है और परीक्षण परिदृश्यों में 84% सफलता दर हासिल करता है, जबकि मानव रेड टीम की दर केवल 13% है। GPT-Red की खोजें सीधे प्रशिक्षण में उपयोग की जाती हैं, जिससे GPT-5.6 Sol में सीधे प्रॉम्प्ट इंजेक्शन पर विफलताओं की संख्या चार महीने पहले के सर्वश्रेष्ठ मॉडल की तुलना में छह गुना कम हो गई है, और सामान्य प्रदर्शन प्रभावित नहीं हुआ है। लगभग 3.8% "अधिक मजबूत" प्रॉम्प्ट इंजेक्शन अभी भी सफल हो सकते हैं, GPT-Red फिलहाल सार्वजनिक रूप से उपलब्ध नहीं है।
मुख्य जानकारी
- OpenAI ने आंतरिक AI मॉडल GPT-Red को प्रशिक्षित किया है,जो स्व-खेल सुदृढ़ीकरण अधिगम के माध्यम से…
- 6 Sol में सीधे प्रॉम्प्ट इंजेक्शन पर विफलताओं की संख्या चार महीने पहले के सर्वश्रेष्ठ मॉडल की…
- 8% "अधिक मजबूत" प्रॉम्प्ट इंजेक्शन अभी भी सफल हो सकते हैं,GPT-Red फिलहाल सार्वजनिक रूप से उपलब्ध…
एक नज़र में
- प्रकाशन समय
- अपडेट समय
- स्रोत
- The Decoder:AI News(RSS)
- श्रेणी
- पेपर और शोध
- AI स्कोर
- 71
OpenAI让AI攻击自己找漏洞,成功率84%把人甩在后面,直接拉低了GPT-5.6的注入失败率六倍,这比人类红队靠谱多了,但别忘了3.8%的缺口照样能捅娄子。
संबंधित एंटिटी
स्रोत और कॉपीराइट
यह लेख AIHOT के सार्वजनिक API की चयनित सुर्खियों और AI सारांशों के आधार पर तैयार किया गया है, स्रोत का उल्लेख और लिंक दिया गया है; मूल पाठ का कॉपीराइट मूल मीडिया और लेखक के पास है, यह साइट पूरा पाठ मिरर नहीं करती।
उद्धरण कैसे दें
इस लेख का उद्धरण देते समय शीर्षक, तिथि और स्थायी लिंक बनाए रखें और स्रोत Orange News बताएं।
Orange News: OpenAI ने अपने ही AI पर AI से हमला किया: GPT-Red स्वचालित रूप से सुरक्षा खामियां खोजता है, सफलता दर 84% मानव से कहीं अधिक। 16 जुलाई 2026। https://new.nat6.net/hi/news/cmrmi4f4x01ilbiul55xb25fm/