पेपर और शोध

Transluce ने PRBO पद्धति प्रस्तावित की, RL एआई एजेंट का उपयोग करके Llama, Qwen और DeepSeek के दुर्लभ रोगजनक व्यवहारों की स्वचालित खोज

मूल शीर्षक:Surfacing Pathological Behaviors in Language Models

AI सारांश

Transluce ने एक शोध रिपोर्ट जारी की, जिसमें विरल पुरस्कार के प्रॉक्सी के रूप में PRBO (प्रवृत्ति निचली सीमा) प्रस्तावित किया गया, RL जांच एजेंट को वास्तविक और स्वाभाविक संकेत उत्पन्न करने के लिए प्रशिक्षित किया गया ताकि ओपन-वेट मॉडलों में निर्दिष्ट दुर्लभ व्यवहार प्रेरित किया जा सके, जिसमें Llama 3.1/4, Qwen 2.5 और DeepSeek-V3 शामिल हैं।

मुख्य जानकारी

  • Transluce ने एक शोध रिपोर्ट जारी की,जिसमें विरल पुरस्कार के प्रॉक्सी के रूप में PRBO (प्रवृत्ति…
  • 1/4,Qwen 2.
  • 5 और DeepSeek-V3 शामिल हैं।

एक नज़र में

प्रकाशन समय
अपडेट समय
स्रोत
Transluce(网页)
श्रेणी
पेपर और शोध
AI स्कोर
66
मूल पढ़ें मूल स्रोत पर पूरा लेख पढ़ें
सुझाव का कारण

Transluce 提出用 PRBO 和 RL 调查智能体自动激发模型的罕见问题行为,并分析这些行为在真实提示下能否复现。

संबंधित एंटिटी

स्रोत और कॉपीराइट

यह लेख AIHOT के सार्वजनिक API की चयनित सुर्खियों और AI सारांशों के आधार पर तैयार किया गया है, स्रोत का उल्लेख और लिंक दिया गया है; मूल पाठ का कॉपीराइट मूल मीडिया और लेखक के पास है, यह साइट पूरा पाठ मिरर नहीं करती।

मूल लिंक · AIHOT प्रविष्टि

उद्धरण कैसे दें

इस लेख का उद्धरण देते समय शीर्षक, तिथि और स्थायी लिंक बनाए रखें और स्रोत Orange News बताएं।

Orange News: Transluce ने PRBO पद्धति प्रस्तावित की, RL एआई एजेंट का उपयोग करके Llama, Qwen और DeepSeek के दुर्लभ रोगजनक व्यवहारों की स्वचालित खोज। 5 जून 2025। https://new.nat6.net/hi/news/cmtyo2tx503jqrog01dxgq3is/

सभी देखें →