पेपर और शोध

Transluce ने फ्रंटियर मॉडल को स्वचालित रूप से जेलब्रेक करने के लिए RL के साथ इन्वेस्टिगेटर एआई एजेंट को प्रशिक्षित किया, Llama-3.1 8B से GPT-5 और Claude पर हमला संभव

मूल शीर्षक:Automatically Jailbreaking Frontier Language Models with Investigator Agents

AI सारांश

Transluce ने रिइंफोर्समेंट लर्निंग (RL) के माध्यम से एक इन्वेस्टिगेटर एआई एजेंट को प्रशिक्षित किया है, जो CBRN, विस्फोटक और प्रतिबंधित दवाओं से संबंधित 48 उच्च-जोखिम वाले कार्यों के लिए जेलब्रेक प्रॉम्प्ट तैयार करता है। इसने Claude Sonnet 4, Grok 4, Gemini 2.5 Pro और GPT-5-main पर क्रमशः 92%, 98%, 90% और 78% की pass@1 सफलता दर प्राप्त की है।

मुख्य जानकारी

  • Transluce ने रिइंफोर्समेंट लर्निंग (RL) के माध्यम से एक इन्वेस्टिगेटर एआई एजेंट को प्रशिक्षित किया…
  • Gemini 2.
  • 5 Pro और GPT-5-main पर क्रमशः 92%,98%,90% और 78% की pass@1 सफलता दर प्राप्त की है।

एक नज़र में

प्रकाशन समय
अपडेट समय
स्रोत
Transluce(网页)
श्रेणी
पेपर और शोध
AI स्कोर
70
मूल पढ़ें मूल स्रोत पर पूरा लेख पढ़ें
सुझाव का कारण

原文给出完整的 RL 训练方法和跨模型迁移数据,并开源代码与提示词,读者可评估低成本自动红队的可行性。

संबंधित एंटिटी

स्रोत और कॉपीराइट

यह लेख AIHOT के सार्वजनिक API की चयनित सुर्खियों और AI सारांशों के आधार पर तैयार किया गया है, स्रोत का उल्लेख और लिंक दिया गया है; मूल पाठ का कॉपीराइट मूल मीडिया और लेखक के पास है, यह साइट पूरा पाठ मिरर नहीं करती।

मूल लिंक · AIHOT प्रविष्टि

उद्धरण कैसे दें

इस लेख का उद्धरण देते समय शीर्षक, तिथि और स्थायी लिंक बनाए रखें और स्रोत Orange News बताएं।

Orange News: Transluce ने फ्रंटियर मॉडल को स्वचालित रूप से जेलब्रेक करने के लिए RL के साथ इन्वेस्टिगेटर एआई एजेंट को प्रशिक्षित किया, Llama-3.1 8B से GPT-5 और Claude पर हमला संभव। 3 सितंबर 2025। https://new.nat6.net/hi/news/cmtyo2tx503jorog01e4ibvpa/

सभी देखें →