Mga Papel at Pananaliksik

CoVal: Pag-aaral ng value-aware na pamantayan sa pagsusuri mula sa grupo

Orihinal na pamagat:CoVal: Learning values-aware rubrics from the crowd

AI summary

Naglabas ang research team ng isang eksperimental na dataset na tinatawag na CoVal, na naglalaman ng mga pamantayan sa pagsusuri na isinulat sa pamamagitan ng crowdsourcing. Inihahayag ng dataset na ito ang mga partikular na dahilan kung bakit mas pinipili ng mga tao ang isang output ng modelo kaysa sa isa pa, na naglalayong maunawaan ng AI model ang iba't ibang pamantayang naglalaman ng mga halaga na ginagamit ng tao sa pagsusuri ng kalidad ng teksto. Sa pamamagitan ng pagsusuri sa mga detalyadong tuntunin sa pagsusuri na inambag ng grupo, nagbibigay ang pananaliksik ng transparent at maipaliwanag na batayan ng feedback para sa pagsasanay ng mga language model na mas umaayon sa kagustuhan ng tao.

Mahahalagang impormasyon

  • Naglabas ang research team ng isang eksperimental na dataset na tinatawag na CoVal,na naglalaman…
  • Inihahayag ng dataset na ito ang mga partikular na dahilan kung bakit mas pinipili ng mga tao ang…
  • Sa pamamagitan ng pagsusuri sa mga detalyadong tuntunin sa pagsusuri na inambag ng…

Mabilisang tingin

Na-publish noong
Na-update noong
Pinagmulan
OpenAI:Alignment 研究博客(RSS)
Kategorya
Mga Papel at Pananaliksik
AI na marka
55
Basahin ang orihinal Basahin ang buong artikulo sa orihinal na pinagmulan
Dahilan ng rekomendasyon

OpenAI 把众包标注升级成可学习的价值观评分标准,对做对齐和 RLHF 的团队来说是个新数据源,但离产品落地还远,属于研究信号而非行动指南。

Pinagmulan at copyright

Ang artikulong ito ay batay sa mga piling pamagat at AI summary mula sa pampublikong API ng AIHOT, may nakasaad na pinagmulan at backlink; ang copyright ng orihinal na teksto ay pag-aari ng orihinal na media at may-akda, hindi namin ginagaya ang buong teksto.

Link ng orihinal · Entry sa AIHOT

Paano banggitin

Kapag binabanggit ang artikulong ito, panatilihin ang pamagat, petsa at permanenteng link, at banggitin ang Orange News bilang pinagmulan.

Orange News: CoVal: Pag-aaral ng value-aware na pamantayan sa pagsusuri mula sa grupo. 15 Enero 2026. https://new.nat6.net/fil/news/cmoqytjhu006rslbosgkmxjwx/

Tingnan lahat →