CoVal: обучение ценностно-осознанным критериям оценки на основе мнений сообщества
Оригинальный заголовок:CoVal: Learning values-aware rubrics from the crowd
ИИ-резюме
Исследовательская группа выпустила экспериментальный набор данных CoVal, содержащий критерии оценки, написанные краудсорсингом. Набор раскрывает конкретные причины, по которым люди предпочитают один вывод модели другому, и помогает ИИ-моделям понять плюралистические ценностно-нагруженные стандарты, на которые люди опираются при оценке качества текста. Анализируя подробные правила оценки, предложенные сообществом, исследование даёт прозрачную и объяснимую обратную связь для обучения языковых моделей, лучше соответствующих человеческим предпочтениям.
Ключевые моменты
- Исследовательская группа выпустила экспериментальный набор данных CoVal,содержащий критерии…
- Набор раскрывает конкретные причины,по которым люди предпочитают один вывод модели другому,и…
- Анализируя подробные правила оценки,предложенные сообществом,исследование даёт прозрачную и…
Кратко
- Опубликовано
- Обновлено
- Источник
- OpenAI:Alignment 研究博客(RSS)
- Категория
- Статьи и исследования
- Оценка ИИ
- 55
OpenAI 把众包标注升级成可学习的价值观评分标准,对做对齐和 RLHF 的团队来说是个新数据源,但离产品落地还远,属于研究信号而非行动指南。
Источник и авторские права
Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.
Как цитировать
При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.
Orange News: CoVal: обучение ценностно-осознанным критериям оценки на основе мнений сообщества. 15 января 2026. https://new.nat6.net/ru/news/cmoqytjhu006rslbosgkmxjwx/