CoVal: Pag-aaral ng value-aware na pamantayan sa pagsusuri mula sa grupo
Orihinal na pamagat:CoVal: Learning values-aware rubrics from the crowd
AI summary
Naglabas ang research team ng isang eksperimental na dataset na tinatawag na CoVal, na naglalaman ng mga pamantayan sa pagsusuri na isinulat sa pamamagitan ng crowdsourcing. Inihahayag ng dataset na ito ang mga partikular na dahilan kung bakit mas pinipili ng mga tao ang isang output ng modelo kaysa sa isa pa, na naglalayong maunawaan ng AI model ang iba't ibang pamantayang naglalaman ng mga halaga na ginagamit ng tao sa pagsusuri ng kalidad ng teksto. Sa pamamagitan ng pagsusuri sa mga detalyadong tuntunin sa pagsusuri na inambag ng grupo, nagbibigay ang pananaliksik ng transparent at maipaliwanag na batayan ng feedback para sa pagsasanay ng mga language model na mas umaayon sa kagustuhan ng tao.
Mahahalagang impormasyon
- Naglabas ang research team ng isang eksperimental na dataset na tinatawag na CoVal,na naglalaman…
- Inihahayag ng dataset na ito ang mga partikular na dahilan kung bakit mas pinipili ng mga tao ang…
- Sa pamamagitan ng pagsusuri sa mga detalyadong tuntunin sa pagsusuri na inambag ng…
Mabilisang tingin
- Na-publish noong
- Na-update noong
- Pinagmulan
- OpenAI:Alignment 研究博客(RSS)
- Kategorya
- Mga Papel at Pananaliksik
- AI na marka
- 55
OpenAI 把众包标注升级成可学习的价值观评分标准,对做对齐和 RLHF 的团队来说是个新数据源,但离产品落地还远,属于研究信号而非行动指南。
Pinagmulan at copyright
Ang artikulong ito ay batay sa mga piling pamagat at AI summary mula sa pampublikong API ng AIHOT, may nakasaad na pinagmulan at backlink; ang copyright ng orihinal na teksto ay pag-aari ng orihinal na media at may-akda, hindi namin ginagaya ang buong teksto.
Paano banggitin
Kapag binabanggit ang artikulong ito, panatilihin ang pamagat, petsa at permanenteng link, at banggitin ang Orange News bilang pinagmulan.
Orange News: CoVal: Pag-aaral ng value-aware na pamantayan sa pagsusuri mula sa grupo. 15 Enero 2026. https://new.nat6.net/fil/news/cmoqytjhu006rslbosgkmxjwx/