Anthropic พัฒนาและประเมินเอเจนต์ 3 ตัวที่ตรวจสอบการจัดแนวโดยอัตโนมัติ
หัวข้อต้นฉบับ:Building and evaluating alignment auditing agents
สรุปโดย AI
Anthropic เผยแพร่เอเจนต์ 3 ตัวที่ทำงานตรวจสอบการจัดแนวด้วยตนเอง และประเมินด้วยสภาพแวดล้อมโมเดลที่ฝังข้อบกพร่องไว้ เอเจนต์สืบสวนไขเกมตรวจสอบของ Marks et al. ได้ในอัตราชนะ 13% ภายใต้เงื่อนไขจริง และเพิ่มเป็น 42% เมื่อรวมหลายเอเจนต์ เอเจนต์ประเมินสามารถแยกโมเดลที่มี/ไม่มีพฤติกรรมฝังได้ใน 88% ของการรัน และเอเจนต์ red team แบบกว้างก่อนพบ 7 จาก 10 พฤติกรรมที่ฝังไว้
สรุปสั้น
- เวลาเผยแพร่
- เวลาอัปเดต
- แหล่งที่มา
- Anthropic:Alignment Science Blog(网页)
- หมวดหมู่
- บทความและงานวิจัย
- คะแนน AI
- 68
Anthropic 报告了三个对齐审计智能体在植入缺陷模型上的可复现成绩,并公开部分代码与提示词,读者可以了解自动化审计的实际能力与局限。
เอนทิตีที่เกี่ยวข้อง
แหล่งที่มาและลิขสิทธิ์
บทความนี้เรียบเรียงจากพาดหัวคัดสรรและบทสรุป AI จาก API สาธารณะของ AIHOT โดยระบุแหล่งที่มาและลิงก์กลับแล้ว ลิขสิทธิ์ต้นฉบับเป็นของสื่อและผู้เขียนต้นทาง เว็บไซต์นี้ไม่ได้สะท้อนเนื้อหาฉบับเต็ม
วิธีอ้างอิง
เมื่ออ้างอิงบทความนี้ โปรดระบุชื่อเรื่อง วันที่ และลิงก์ถาวร พร้อมระบุแหล่งที่มาเป็น Orange News
Orange News: Anthropic พัฒนาและประเมินเอเจนต์ 3 ตัวที่ตรวจสอบการจัดแนวโดยอัตโนมัติ 25 กรกฎาคม 2025 https://new.nat6.net/th/news/b2vmn7tkytgs01vo5htab6uon/