Kertas penyelidikan

CoVal: Pembelajaran kriteria penilaian sedar nilai daripada orang ramai

Tajuk asal:CoVal: Learning values-aware rubrics from the crowd

Ringkasan AI

Pasukan penyelidik telah melancarkan set data eksperimen bernama CoVal, yang mengandungi kriteria penilaian yang ditulis secara ramai. Set data ini mendedahkan sebab khusus mengapa orang lebih cenderung memilih output model tertentu berbanding yang lain, bertujuan membolehkan model AI memahami pelbagai standard yang mengandungi nilai yang menjadi asas manusia dalam menilai kualiti teks. Melalui analisis peraturan penilaian terperinci yang disumbangkan oleh orang ramai, penyelidikan ini menyediakan asas maklum balas yang telus dan boleh dijelaskan untuk melatih model bahasa yang lebih mematuhi keutamaan manusia.

Maklumat penting

  • Pasukan penyelidik telah melancarkan set data eksperimen bernama CoVal,yang mengandungi kriteria…
  • Set data ini mendedahkan sebab khusus mengapa orang lebih cenderung memilih output model tertentu…
  • Melalui analisis peraturan penilaian terperinci yang disumbangkan oleh orang ramai,penyelidikan…

Sekilas pandang

Diterbitkan pada
Dikemas kini pada
Sumber
OpenAI:Alignment 研究博客(RSS)
Kategori
Kertas penyelidikan
Skor AI
55
Baca asal Baca artikel penuh di sumber asal
Sebab disyorkan

OpenAI 把众包标注升级成可学习的价值观评分标准,对做对齐和 RLHF 的团队来说是个新数据源,但离产品落地还远,属于研究信号而非行动指南。

Sumber dan hak cipta

Artikel ini disusun berdasarkan tajuk pilihan dan ringkasan AI daripada API awam AIHOT, dengan sumber dinyatakan dan pautan balik disediakan; hak cipta teks asal milik media dan penulis asal, laman ini tidak menyalin penuh teks penuh.

Pautan asal · Entri AIHOT

Cara memetik

Apabila memetik artikel ini, kekalkan tajuk, tarikh dan pautan kekal, serta nyatakan sumber sebagai Orange News.

Orange News: CoVal: Pembelajaran kriteria penilaian sedar nilai daripada orang ramai. 15 Januari 2026. https://new.nat6.net/ms/news/cmoqytjhu006rslbosgkmxjwx/

Lihat Semua →