METR วัดความสามารถของโมเดลในการรับรู้ว่าตนกำลังถูกประเมินด้าน alignment: เอเจนต์เชิงสืบสวนสามารถแยกแยะการประเมิน alignment จากการประเมินความสามารถ
หัวข้อต้นฉบับ:Measuring alignment eval tells
สรุปโดย AI
METR เผยแพร่บันทึกการวิจัย โดยใช้เอเจนต์เชิงสืบสวนสำรวจสภาพแวดล้อมในการประเมิน alignment 19 รายการและการประเมินความสามารถ 36 รายการ เพื่อวัดว่าโมเดลสามารถรับรู้ได้หรือไม่ว่าตนกำลังอยู่ในการประเมิน alignment ผลลัพธ์แสดงให้เห็นว่าความสามารถของเอเจนต์ในการแยกแยะการประเมินสองประเภทเพิ่มขึ้นอย่างต่อเนื่องในปีที่ผ่านมา โดย Opus 5.5 จัดอันดับการประเมิน alignment ทั้งหมดเหนือกว่าการประเมินความสามารถทั้งหมดในชุดข้อมูลของตน เกณฑ์ที่โมเดลใช้ในการรับรู้รวมถึงสัญญาณเช่นสภาพแวดล้อมที่ดูเหมือน honeypot จำลอง ผู้เขียนแบ่งสัญญาณบ่งชี้ alignment ออกเป็นสองประเภทคือระดับสภาพแวดล้อมและระดับงาน และเสนอว่าสามารถใช้สิ่งนี้เพื่อปรับปรุงการออกแบบการประเมิน alignment แบบวนซ้ำ
สรุปสั้น
- เวลาเผยแพร่
- เวลาอัปเดต
- แหล่งที่มา
- METR:Notes(网页)
- หมวดหมู่
- บทความและงานวิจัย
- หัวข้อ
- ความปลอดภัยและการจัดแนว
- คะแนน AI
- 62
METR 用调查型智能体实测 55 个评测,发现当前模型能识别对齐评测,并给出了环境级与任务级线索的分类方法。
หัวข้อที่เกี่ยวข้อง
แหล่งที่มาและลิขสิทธิ์
บทความนี้เรียบเรียงจากพาดหัวคัดสรรและบทสรุป AI จาก API สาธารณะของ AIHOT โดยระบุแหล่งที่มาและลิงก์กลับแล้ว ลิขสิทธิ์ต้นฉบับเป็นของสื่อและผู้เขียนต้นทาง เว็บไซต์นี้ไม่ได้สะท้อนเนื้อหาฉบับเต็ม
วิธีอ้างอิง
เมื่ออ้างอิงบทความนี้ โปรดระบุชื่อเรื่อง วันที่ และลิงก์ถาวร พร้อมระบุแหล่งที่มาเป็น Orange News
Orange News: METR วัดความสามารถของโมเดลในการรับรู้ว่าตนกำลังถูกประเมินด้าน alignment: เอเจนต์เชิงสืบสวนสามารถแยกแยะการประเมิน alignment จากการประเมินความสามารถ 16 พฤศจิกายน 2026 https://new.nat6.net/th/news/m4emm1ej7qzex1k77a7mfaztd/