บทความและงานวิจัย

Anthropic พัฒนาและประเมินเอเจนต์ 3 ตัวที่ตรวจสอบการจัดแนวโดยอัตโนมัติ

หัวข้อต้นฉบับ:Building and evaluating alignment auditing agents

สรุปโดย AI

Anthropic เผยแพร่เอเจนต์ 3 ตัวที่ทำงานตรวจสอบการจัดแนวด้วยตนเอง และประเมินด้วยสภาพแวดล้อมโมเดลที่ฝังข้อบกพร่องไว้ เอเจนต์สืบสวนไขเกมตรวจสอบของ Marks et al. ได้ในอัตราชนะ 13% ภายใต้เงื่อนไขจริง และเพิ่มเป็น 42% เมื่อรวมหลายเอเจนต์ เอเจนต์ประเมินสามารถแยกโมเดลที่มี/ไม่มีพฤติกรรมฝังได้ใน 88% ของการรัน และเอเจนต์ red team แบบกว้างก่อนพบ 7 จาก 10 พฤติกรรมที่ฝังไว้

สรุปสั้น

เวลาเผยแพร่
เวลาอัปเดต
แหล่งที่มา
Anthropic:Alignment Science Blog(网页)
หมวดหมู่
บทความและงานวิจัย
คะแนน AI
68
อ่านต้นฉบับ อ่านบทความฉบับเต็มที่แหล่งข่าวต้นฉบับ
เหตุผลที่แนะนำ

Anthropic 报告了三个对齐审计智能体在植入缺陷模型上的可复现成绩,并公开部分代码与提示词,读者可以了解自动化审计的实际能力与局限。

เอนทิตีที่เกี่ยวข้อง

แหล่งที่มาและลิขสิทธิ์

บทความนี้เรียบเรียงจากพาดหัวคัดสรรและบทสรุป AI จาก API สาธารณะของ AIHOT โดยระบุแหล่งที่มาและลิงก์กลับแล้ว ลิขสิทธิ์ต้นฉบับเป็นของสื่อและผู้เขียนต้นทาง เว็บไซต์นี้ไม่ได้สะท้อนเนื้อหาฉบับเต็ม

ลิงก์ต้นฉบับ · รายการ AIHOT

วิธีอ้างอิง

เมื่ออ้างอิงบทความนี้ โปรดระบุชื่อเรื่อง วันที่ และลิงก์ถาวร พร้อมระบุแหล่งที่มาเป็น Orange News

Orange News: Anthropic พัฒนาและประเมินเอเจนต์ 3 ตัวที่ตรวจสอบการจัดแนวโดยอัตโนมัติ 25 กรกฎาคม 2025 https://new.nat6.net/th/news/b2vmn7tkytgs01vo5htab6uon/

ดูทั้งหมด →