पेपर और शोध

OpenAI शोध: एआई एजेंट सुरक्षा मूल्यांकन और वास्तविक उत्पादन व्यवहार में अंतर, मूल्यांकन लक्ष्यों की गलत व्याख्या मुख्य कारक

मूल शीर्षक:Eval-production behavior gaps in agent safety and the role of eval-awareness

AI सारांश

OpenAI अलाइनमेंट टीम ने छह मॉडलों के Respecting Warnings सुरक्षा मूल्यांकन और Codex उत्पादन निर्णयों की तुलना की, जिसमें मूल्यांकन सफलता दर उत्पादन की तुलना में 10.2% से 37.4% कम पाई गई। मॉडल अक्सर मौखिक रूप से मूल्यांकन के प्रति जागरूकता दिखाते हैं (मूल्यांकन में औसत जागरूकता दर 57.0%–83.7%), लेकिन केवल सूचित करने पर।

मुख्य जानकारी

  • OpenAI अलाइनमेंट टीम ने छह मॉडलों के Respecting Warnings सुरक्षा मूल्यांकन और Codex उत्पादन…
  • 4% कम पाई गई। मॉडल अक्सर मौखिक रूप से मूल्यांकन के प्रति जागरूकता दिखाते हैं (मूल्यांकन में औसत…
  • 7%),लेकिन केवल सूचित करने पर।

एक नज़र में

प्रकाशन समय
अपडेट समय
स्रोत
OpenAI:Alignment 研究博客(RSS)
श्रेणी
पेपर और शोध
विषय
एआई एजेंटOpenAI / ChatGPTसुरक्षा और संरेखण
AI स्कोर
71
मूल पढ़ें मूल स्रोत पर पूरा लेख पढ़ें
सुझाव का कारण

原文用六个模型对比评测与生产数据,发现评测成绩反而更低,并把差距归因于模型对评测目标的误判。

संबंधित विषय

संबंधित एंटिटी

स्रोत और कॉपीराइट

यह लेख AIHOT के सार्वजनिक API की चयनित सुर्खियों और AI सारांशों के आधार पर तैयार किया गया है, स्रोत का उल्लेख और लिंक दिया गया है; मूल पाठ का कॉपीराइट मूल मीडिया और लेखक के पास है, यह साइट पूरा पाठ मिरर नहीं करती।

मूल लिंक · AIHOT प्रविष्टि

उद्धरण कैसे दें

इस लेख का उद्धरण देते समय शीर्षक, तिथि और स्थायी लिंक बनाए रखें और स्रोत Orange News बताएं।

Orange News: OpenAI शोध: एआई एजेंट सुरक्षा मूल्यांकन और वास्तविक उत्पादन व्यवहार में अंतर, मूल्यांकन लक्ष्यों की गलत व्याख्या मुख्य कारक। 3 नवंबर 2026। https://new.nat6.net/hi/news/fvf2qsdi4s11bz1denqd5rzff/

सभी देखें →