CoVal: wertbewusste Bewertungskriterien aus der Gruppe lernen
Originaltitel:CoVal: Learning values-aware rubrics from the crowd
KI-Zusammenfassung
Das Forschungsteam hat einen experimentellen Datensatz namens CoVal veröffentlicht, der durch Crowdsourcing verfasste Bewertungskriterien enthält. Der Datensatz macht die konkreten Gründe sichtbar, warum Menschen eine Modellausgabe einer anderen vorziehen, und soll KI-Modellen helfen, die vielfältigen, wertgebundenen Maßstäbe zu verstehen, die Menschen bei der Bewertung von Textqualität anlegen. Durch die Analyse dieser detaillierten, von der Gruppe beigesteuerten Bewertungsregeln liefert die Forschung eine transparente, erklärbare Feedback-Grundlage für das Training von Sprachmodellen, die menschlichen Präferenzen besser entsprechen.
Kernpunkte
- Das Forschungsteam hat einen experimentellen Datensatz namens CoVal veröffentlicht,der durch…
- Der Datensatz macht die konkreten Gründe sichtbar,warum Menschen eine Modellausgabe einer anderen…
- Durch die Analyse dieser detaillierten,von der Gruppe beigesteuerten Bewertungsregeln liefert die…
Auf einen Blick
- Veröffentlicht
- Aktualisiert
- Quelle
- OpenAI:Alignment 研究博客(RSS)
- Kategorie
- Papers & Forschung
- KI-Bewertung
- 55
OpenAI 把众包标注升级成可学习的价值观评分标准,对做对齐和 RLHF 的团队来说是个新数据源,但离产品落地还远,属于研究信号而非行动指南。
Quelle & Urheberrecht
Dieser Artikel basiert auf kuratierten Titeln und KI-Zusammenfassungen der öffentlichen AIHOT-API, mit Quellenangabe und Rückverlinkung. Das Urheberrecht am Original liegt bei den ursprünglichen Medien und Autoren; diese Seite spiegelt keine Volltexte.
Zitierhinweis
Beim Zitieren dieses Artikels bitte Titel, Datum und Permalink beibehalten und Orange News als Quelle angeben.
Orange News: CoVal: wertbewusste Bewertungskriterien aus der Gruppe lernen. 15. Januar 2026. https://new.nat6.net/de/news/cmoqytjhu006rslbosgkmxjwx/