บทความและงานวิจัย

CoVal: เรียนรู้เกณฑ์การประเมินที่ตระหนักถึงค่านิยมจากกลุ่มคน

หัวข้อต้นฉบับ:CoVal: Learning values-aware rubrics from the crowd

สรุปโดย AI

ทีมวิจัยเผยแพร่ชุดข้อมูลทดลองชื่อ CoVal ซึ่งประกอบด้วยเกณฑ์การประเมินที่เขียนโดยการระดมทุนจากกลุ่มคน ชุดข้อมูลนี้เปิดเผยเหตุผลเฉพาะที่ผู้คนมักเลือกผลลัพธ์ของโมเดลหนึ่งมากกว่าอีกโมเดลหนึ่ง โดยมีเป้าหมายให้โมเดล AI เข้าใจมาตรฐานที่หลากหลายและแฝงค่านิยมซึ่งมนุษย์ใช้ประเมินคุณภาพข้อความ จากการวิเคราะห์กฎการประเมินโดยละเอียดที่กลุ่มคนร่วมกันสร้าง งานวิจัยนี้มอบพื้นฐานข้อเสนอแนะที่โปร่งใสและอธิบายได้สำหรับการฝึกโมเดลภาษาที่สอดคล้องกับความชอบของมนุษย์มากขึ้น

สรุปสั้น

เวลาเผยแพร่
เวลาอัปเดต
แหล่งที่มา
OpenAI:Alignment 研究博客(RSS)
หมวดหมู่
บทความและงานวิจัย
คะแนน AI
55
อ่านต้นฉบับ อ่านบทความฉบับเต็มที่แหล่งข่าวต้นฉบับ
เหตุผลที่แนะนำ

OpenAI 把众包标注升级成可学习的价值观评分标准,对做对齐和 RLHF 的团队来说是个新数据源,但离产品落地还远,属于研究信号而非行动指南。

แหล่งที่มาและลิขสิทธิ์

บทความนี้เรียบเรียงจากพาดหัวคัดสรรและบทสรุป AI จาก API สาธารณะของ AIHOT โดยระบุแหล่งที่มาและลิงก์กลับแล้ว ลิขสิทธิ์ต้นฉบับเป็นของสื่อและผู้เขียนต้นทาง เว็บไซต์นี้ไม่ได้สะท้อนเนื้อหาฉบับเต็ม

ลิงก์ต้นฉบับ · รายการ AIHOT

วิธีอ้างอิง

เมื่ออ้างอิงบทความนี้ โปรดระบุชื่อเรื่อง วันที่ และลิงก์ถาวร พร้อมระบุแหล่งที่มาเป็น Orange News

Orange News: CoVal: เรียนรู้เกณฑ์การประเมินที่ตระหนักถึงค่านิยมจากกลุ่มคน 15 มกราคม 2026 https://new.nat6.net/th/news/cmoqytjhu006rslbosgkmxjwx/

ดูทั้งหมด →