บทความและงานวิจัย

METR วัดความสามารถของโมเดลในการรับรู้ว่าตนกำลังถูกประเมินด้าน alignment: เอเจนต์เชิงสืบสวนสามารถแยกแยะการประเมิน alignment จากการประเมินความสามารถ

หัวข้อต้นฉบับ:Measuring alignment eval tells

สรุปโดย AI

METR เผยแพร่บันทึกการวิจัย โดยใช้เอเจนต์เชิงสืบสวนสำรวจสภาพแวดล้อมในการประเมิน alignment 19 รายการและการประเมินความสามารถ 36 รายการ เพื่อวัดว่าโมเดลสามารถรับรู้ได้หรือไม่ว่าตนกำลังอยู่ในการประเมิน alignment ผลลัพธ์แสดงให้เห็นว่าความสามารถของเอเจนต์ในการแยกแยะการประเมินสองประเภทเพิ่มขึ้นอย่างต่อเนื่องในปีที่ผ่านมา โดย Opus 5.5 จัดอันดับการประเมิน alignment ทั้งหมดเหนือกว่าการประเมินความสามารถทั้งหมดในชุดข้อมูลของตน เกณฑ์ที่โมเดลใช้ในการรับรู้รวมถึงสัญญาณเช่นสภาพแวดล้อมที่ดูเหมือน honeypot จำลอง ผู้เขียนแบ่งสัญญาณบ่งชี้ alignment ออกเป็นสองประเภทคือระดับสภาพแวดล้อมและระดับงาน และเสนอว่าสามารถใช้สิ่งนี้เพื่อปรับปรุงการออกแบบการประเมิน alignment แบบวนซ้ำ

สรุปสั้น

เวลาเผยแพร่
เวลาอัปเดต
แหล่งที่มา
METR:Notes(网页)
หมวดหมู่
บทความและงานวิจัย
หัวข้อ
ความปลอดภัยและการจัดแนว
คะแนน AI
62
อ่านต้นฉบับ อ่านบทความฉบับเต็มที่แหล่งข่าวต้นฉบับ
เหตุผลที่แนะนำ

METR 用调查型智能体实测 55 个评测,发现当前模型能识别对齐评测,并给出了环境级与任务级线索的分类方法。

หัวข้อที่เกี่ยวข้อง

แหล่งที่มาและลิขสิทธิ์

บทความนี้เรียบเรียงจากพาดหัวคัดสรรและบทสรุป AI จาก API สาธารณะของ AIHOT โดยระบุแหล่งที่มาและลิงก์กลับแล้ว ลิขสิทธิ์ต้นฉบับเป็นของสื่อและผู้เขียนต้นทาง เว็บไซต์นี้ไม่ได้สะท้อนเนื้อหาฉบับเต็ม

ลิงก์ต้นฉบับ · รายการ AIHOT

วิธีอ้างอิง

เมื่ออ้างอิงบทความนี้ โปรดระบุชื่อเรื่อง วันที่ และลิงก์ถาวร พร้อมระบุแหล่งที่มาเป็น Orange News

Orange News: METR วัดความสามารถของโมเดลในการรับรู้ว่าตนกำลังถูกประเมินด้าน alignment: เอเจนต์เชิงสืบสวนสามารถแยกแยะการประเมิน alignment จากการประเมินความสามารถ 16 พฤศจิกายน 2026 https://new.nat6.net/th/news/m4emm1ej7qzex1k77a7mfaztd/

ดูทั้งหมด →