पेपर और शोध

Reflection ने ओपन-सोर्स मॉडल Beam की सुरक्षित प्रशिक्षण और मूल्यांकन पद्धति का विवरण दिया

मूल शीर्षक:Open model safety: lessons from training and evaluating Beam

AI सारांश

Reflection ने एक ब्लॉग पोस्ट जारी किया, जिसमें अपने ओपन-वेट मॉडल Beam के सुरक्षा प्रशिक्षण और मूल्यांकन विधियों की व्याख्या की गई, और ओपन-सोर्स सुरक्षा शोध कार्यक्रम Project Iris की शुरुआत की गई। Beam ने Iris Safety Evaluations संवाद कार्यों में 89% हानिकारक अनुरोधों को अस्वीकार किया, जो परीक्षण किए गए ओपन-वेट मॉडलों में सर्वाधिक है, साथ ही 82% सुरक्षा-संबंधित हानिरहित अनुरोधों का पालन किया; सुरक्षा संरेखण शिक्षक मॉडल के 100B से 501B पैरामीटर होने पर अत्यधिक अस्वीकृति में 48.7% की सापेक्ष कमी आई।

मुख्य जानकारी

  • Reflection ने एक ब्लॉग पोस्ट जारी किया,जिसमें अपने ओपन-वेट मॉडल Beam के सुरक्षा प्रशिक्षण और…
  • सुरक्षा संरेखण शिक्षक मॉडल के 100B से 501B पैरामीटर होने पर अत्यधिक अस्वीकृति में 48.
  • 7% की सापेक्ष कमी आई।

एक नज़र में

प्रकाशन समय
स्रोत
Reflection Blog
श्रेणी
पेपर और शोध
विषय
ओपन-सोर्स इकोसिस्टमसुरक्षा और संरेखण
AI स्कोर
66
मूल पढ़ें मूल स्रोत पर पूरा लेख पढ़ें
सुझाव का कारण

原文拆解了 Beam 的安全训练方法与双轨评估体系,并给出关键数字,为开源模型安全实践提供可参照的路径。

संबंधित विषय

स्रोत और कॉपीराइट

यह लेख AIHOT के सार्वजनिक API की चयनित सुर्खियों और AI सारांशों के आधार पर तैयार किया गया है, स्रोत का उल्लेख और लिंक दिया गया है; मूल पाठ का कॉपीराइट मूल मीडिया और लेखक के पास है, यह साइट पूरा पाठ मिरर नहीं करती।

मूल लिंक · AIHOT प्रविष्टि

उद्धरण कैसे दें

इस लेख का उद्धरण देते समय शीर्षक, तिथि और स्थायी लिंक बनाए रखें और स्रोत Orange News बताएं।

Orange News: Reflection ने ओपन-सोर्स मॉडल Beam की सुरक्षित प्रशिक्षण और मूल्यांकन पद्धति का विवरण दिया। 6 नवंबर 2026। https://new.nat6.net/hi/news/mpv0jfejdzdm2336jgtyj9tde/

सभी देखें →