Статьи и исследования

CoVal: обучение ценностно-осознанным критериям оценки на основе мнений сообщества

Оригинальный заголовок:CoVal: Learning values-aware rubrics from the crowd

ИИ-резюме

Исследовательская группа выпустила экспериментальный набор данных CoVal, содержащий критерии оценки, написанные краудсорсингом. Набор раскрывает конкретные причины, по которым люди предпочитают один вывод модели другому, и помогает ИИ-моделям понять плюралистические ценностно-нагруженные стандарты, на которые люди опираются при оценке качества текста. Анализируя подробные правила оценки, предложенные сообществом, исследование даёт прозрачную и объяснимую обратную связь для обучения языковых моделей, лучше соответствующих человеческим предпочтениям.

Ключевые моменты

  • Исследовательская группа выпустила экспериментальный набор данных CoVal,содержащий критерии…
  • Набор раскрывает конкретные причины,по которым люди предпочитают один вывод модели другому,и…
  • Анализируя подробные правила оценки,предложенные сообществом,исследование даёт прозрачную и…

Кратко

Опубликовано
Обновлено
Источник
OpenAI:Alignment 研究博客(RSS)
Категория
Статьи и исследования
Оценка ИИ
55
Читать оригинал Читать полную статью в первоисточнике
Почему это важно

OpenAI 把众包标注升级成可学习的价值观评分标准,对做对齐和 RLHF 的团队来说是个新数据源,但离产品落地还远,属于研究信号而非行动指南。

Источник и авторские права

Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.

Оригинал статьи · Материал на AIHOT

Как цитировать

При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.

Orange News: CoVal: обучение ценностно-осознанным критериям оценки на основе мнений сообщества. 15 января 2026. https://new.nat6.net/ru/news/cmoqytjhu006rslbosgkmxjwx/

Смотреть все →