पेपर और शोध

Anthropic ने संरेखण ऑडिट स्वचालित रूप से करने वाले तीन एजेंट विकसित और मूल्यांकित किए

मूल शीर्षक:Building and evaluating alignment auditing agents

AI सारांश

Anthropic ने संरेखण ऑडिट कार्य स्वायत्त रूप से करने वाले तीन एजेंट जारी किए और उन्हें दोष-प्रत्यारोपित मॉडल वातावरण में मूल्यांकित किया। जांच एजेंट ने वास्तविक परिस्थितियों में 13% जीत दर के साथ Marks et al. ऑडिट गेम हल किया, जो मल्टी-एजेंट एकत्रीकरण के बाद 42% तक बढ़ गया; मूल्यांकन एजेंट 88% रन में प्रत्यारोपित व्यवहार वाले और बिना व्यवहार वाले मॉडल में अंतर कर सका; चौड़ाई-प्रथम रेड टीम एजेंट ने 10 प्रत्यारोपित व्यवहारों में से 7 खोजे।

मुख्य जानकारी

  • Anthropic ने संरेखण ऑडिट कार्य स्वायत्त रूप से करने वाले तीन एजेंट जारी किए और उन्हें…
  • ऑडिट गेम हल किया,जो मल्टी-एजेंट एकत्रीकरण के बाद 42% तक बढ़ गया
  • मूल्यांकन एजेंट 88% रन में प्रत्यारोपित व्यवहार वाले और बिना व्यवहार वाले मॉडल में अंतर कर सका
  • चौड़ाई-प्रथम रेड टीम एजेंट ने 10 प्रत्यारोपित व्यवहारों में से 7 खोजे।

एक नज़र में

प्रकाशन समय
अपडेट समय
स्रोत
Anthropic:Alignment Science Blog(网页)
श्रेणी
पेपर और शोध
AI स्कोर
68
मूल पढ़ें मूल स्रोत पर पूरा लेख पढ़ें
सुझाव का कारण

Anthropic 报告了三个对齐审计智能体在植入缺陷模型上的可复现成绩,并公开部分代码与提示词,读者可以了解自动化审计的实际能力与局限。

संबंधित एंटिटी

स्रोत और कॉपीराइट

यह लेख AIHOT के सार्वजनिक API की चयनित सुर्खियों और AI सारांशों के आधार पर तैयार किया गया है, स्रोत का उल्लेख और लिंक दिया गया है; मूल पाठ का कॉपीराइट मूल मीडिया और लेखक के पास है, यह साइट पूरा पाठ मिरर नहीं करती।

मूल लिंक · AIHOT प्रविष्टि

उद्धरण कैसे दें

इस लेख का उद्धरण देते समय शीर्षक, तिथि और स्थायी लिंक बनाए रखें और स्रोत Orange News बताएं।

Orange News: Anthropic ने संरेखण ऑडिट स्वचालित रूप से करने वाले तीन एजेंट विकसित और मूल्यांकित किए। 25 जुलाई 2025। https://new.nat6.net/hi/news/b2vmn7tkytgs01vo5htab6uon/

सभी देखें →