บทความและงานวิจัย

ใช้ interpretability เข้าใจนโยบายความปลอดภัยของผู้ติดป้ายกำกับ

หัวข้อต้นฉบับ:Understanding Annotator Safety Policy with Interpretability

สรุปโดย AI

ความขัดแย้งในการติดป้ายกำกับอาจเกิดจากความล้มเหลวในการดำเนินการ ความคลุมเครือของนโยบาย หรือความหลากหลายทางค่านิยม Annotator Policy Models (APMs) เป็นโมเดลที่อธิบายได้ ซึ่งเรียนรู้กลยุทธ์ความปลอดภัยภายในของผู้ติดป้ายกำกับจากพฤติกรรมการติดป้ายกำกับเท่านั้น โดยไม่ต้องมีภาระเพิ่มเติม การตรวจสอบแสดงว่าความแม่นยำของโมเดลเกิน 80% สามารถทำนายการแก้ไขแบบ counterfactual ได้อย่างซื่อสัตย์ และกู้คืนความแตกต่างที่ทราบแล้ว การนำ APMs ไปใช้กับ LLM และผู้ติดป้ายกำกับที่เป็นมนุษย์สามารถเปิดเผยความแตกต่างในการตีความคำสั่งความปลอดภัยของผู้ติดป้ายกำกับแต่ละคน (ความคลุมเครือของนโยบาย) และความแตกต่างเชิงระบบในลำดับความสำคัญด้านความปลอดภัยระหว่างกลุ่มประชากรต่าง ๆ (ความหลากหลายทางค่านิยม) สนับสนุนการออกแบบนโยบายความปลอดภัยที่ตรงเป้าหมาย โปร่งใส และครอบคลุมมากขึ้น

สรุปสั้น

เวลาเผยแพร่
เวลาอัปเดต
แหล่งที่มา
Apple Machine Learning Research(RSS)
หมวดหมู่
บทความและงานวิจัย
คะแนน AI
56
อ่านต้นฉบับ อ่านบทความฉบับเต็มที่แหล่งข่าวต้นฉบับ
เหตุผลที่แนะนำ

我觉得 APMs 把标注分歧的根源从「猜」变成了「看」,对安全团队澄清政策模糊和价值观差异挺有实操价值,代码也给了,做对齐的可以上手试。

แหล่งที่มาและลิขสิทธิ์

บทความนี้เรียบเรียงจากพาดหัวคัดสรรและบทสรุป AI จาก API สาธารณะของ AIHOT โดยระบุแหล่งที่มาและลิงก์กลับแล้ว ลิขสิทธิ์ต้นฉบับเป็นของสื่อและผู้เขียนต้นทาง เว็บไซต์นี้ไม่ได้สะท้อนเนื้อหาฉบับเต็ม

ลิงก์ต้นฉบับ · รายการ AIHOT

วิธีอ้างอิง

เมื่ออ้างอิงบทความนี้ โปรดระบุชื่อเรื่อง วันที่ และลิงก์ถาวร พร้อมระบุแหล่งที่มาเป็น Orange News

Orange News: ใช้ interpretability เข้าใจนโยบายความปลอดภัยของผู้ติดป้ายกำกับ 6 กรกฎาคม 2026 https://new.nat6.net/th/news/cmr9jb1wn007eihe8jhd6zhrj/

ดูทั้งหมด →