CoVal: เรียนรู้เกณฑ์การประเมินที่ตระหนักถึงค่านิยมจากกลุ่มคน
หัวข้อต้นฉบับ:CoVal: Learning values-aware rubrics from the crowd
สรุปโดย AI
ทีมวิจัยเผยแพร่ชุดข้อมูลทดลองชื่อ CoVal ซึ่งประกอบด้วยเกณฑ์การประเมินที่เขียนโดยการระดมทุนจากกลุ่มคน ชุดข้อมูลนี้เปิดเผยเหตุผลเฉพาะที่ผู้คนมักเลือกผลลัพธ์ของโมเดลหนึ่งมากกว่าอีกโมเดลหนึ่ง โดยมีเป้าหมายให้โมเดล AI เข้าใจมาตรฐานที่หลากหลายและแฝงค่านิยมซึ่งมนุษย์ใช้ประเมินคุณภาพข้อความ จากการวิเคราะห์กฎการประเมินโดยละเอียดที่กลุ่มคนร่วมกันสร้าง งานวิจัยนี้มอบพื้นฐานข้อเสนอแนะที่โปร่งใสและอธิบายได้สำหรับการฝึกโมเดลภาษาที่สอดคล้องกับความชอบของมนุษย์มากขึ้น
สรุปสั้น
- เวลาเผยแพร่
- เวลาอัปเดต
- แหล่งที่มา
- OpenAI:Alignment 研究博客(RSS)
- หมวดหมู่
- บทความและงานวิจัย
- คะแนน AI
- 55
OpenAI 把众包标注升级成可学习的价值观评分标准,对做对齐和 RLHF 的团队来说是个新数据源,但离产品落地还远,属于研究信号而非行动指南。
แหล่งที่มาและลิขสิทธิ์
บทความนี้เรียบเรียงจากพาดหัวคัดสรรและบทสรุป AI จาก API สาธารณะของ AIHOT โดยระบุแหล่งที่มาและลิงก์กลับแล้ว ลิขสิทธิ์ต้นฉบับเป็นของสื่อและผู้เขียนต้นทาง เว็บไซต์นี้ไม่ได้สะท้อนเนื้อหาฉบับเต็ม
วิธีอ้างอิง
เมื่ออ้างอิงบทความนี้ โปรดระบุชื่อเรื่อง วันที่ และลิงก์ถาวร พร้อมระบุแหล่งที่มาเป็น Orange News
Orange News: CoVal: เรียนรู้เกณฑ์การประเมินที่ตระหนักถึงค่านิยมจากกลุ่มคน 15 มกราคม 2026 https://new.nat6.net/th/news/cmoqytjhu006rslbosgkmxjwx/