पेपर और शोध

METR और Redwood Research ने OpenAI के इंटरनल एआई एजेंट मॉनिटरिंग सिस्टम का रेड-टीम परीक्षण किया और कई खामियां पाईं

मूल शीर्षक:Red-Teaming OpenAI's Internal Agent Monitoring Systems

AI सारांश

METR और Redwood Research ने 21 जुलाई से 11 अगस्त के बीच तीन सप्ताह तक OpenAI के आंतरिक मिसअलाइनमेंट मॉनिटरिंग सिस्टम का उच्च-अधिकार प्राप्त पायलट स्ट्रेस टेस्ट किया, जिसके परिणामस्वरूप 61 पन्नों की आंतरिक रिपोर्ट तैयार हुई।

एक नज़र में

प्रकाशन समय
अपडेट समय
स्रोत
Redwood Research:Blog(RSS)
श्रेणी
पेपर और शोध
विषय
एआई एजेंटOpenAI / ChatGPTसुरक्षा और संरेखण
AI स्कोर
78
मूल पढ़ें मूल स्रोत पर पूरा लेख पढ़ें
सुझाव का कारण

作者以亲历视角披露对 OpenAI 内部监控系统的压力测试,给出覆盖率估算、漏洞清单和可复用的监控设计原则。

संबंधित विषय

संबंधित एंटिटी

स्रोत और कॉपीराइट

यह लेख AIHOT के सार्वजनिक API की चयनित सुर्खियों और AI सारांशों के आधार पर तैयार किया गया है, स्रोत का उल्लेख और लिंक दिया गया है; मूल पाठ का कॉपीराइट मूल मीडिया और लेखक के पास है, यह साइट पूरा पाठ मिरर नहीं करती।

मूल लिंक · AIHOT प्रविष्टि

उद्धरण कैसे दें

इस लेख का उद्धरण देते समय शीर्षक, तिथि और स्थायी लिंक बनाए रखें और स्रोत Orange News बताएं।

Orange News: METR और Redwood Research ने OpenAI के इंटरनल एआई एजेंट मॉनिटरिंग सिस्टम का रेड-टीम परीक्षण किया और कई खामियां पाईं। 22 अक्टूबर 2026। https://new.nat6.net/hi/news/fcw2s1pdclkgm5kmg2qwginp7/

सभी देखें →