Dan Hendrycks поделился исследованием ценностей LLM: у большинства моделей есть расовые и гендерные предубеждения, Grok 4 Fast относительно эгалитарен
Оригинальный заголовок:We'll release additional original analysis of AI value systems hopefully next month.
ИИ-резюме
Глава CAIS Дэн Хендрикс сослался на сторонний блог, тестирующий ведущие большие языковые модели в рамках «инженерии полезности», и обнаружил, что GPT-4o, Claude Sonnet 4.5 и другие модели заметно смещены при оценке ценности жизни разных групп: большинство считает ценность белых ниже, чем других этносов, а мужчин — ниже, чем женщин, и крайне принижает агентов ICE. Тест показал, что модели делятся на четыре моральных кластера, и только Grok 4 Fast демонстрирует почти эгалитарные ценности; Хендрикс призвал xAI объяснить, как это достигнуто.
Ключевые моменты
- Глава CAIS Дэн Хендрикс сослался на сторонний блог,тестирующий ведущие большие языковые модели в…
- 5 и другие модели заметно смещены при оценке ценности жизни разных групп: большинство считает…
- Тест показал,что модели делятся на четыре моральных кластера,и только Grok 4 Fast демонстрирует…
- Хендрикс призвал xAI объяснить,как это достигнуто.
Кратко
- Опубликовано
- Обновлено
- Источник
- X:Dan Hendrycks (@hendrycks)
- Категория
- Мнения
- Оценка ИИ
- 78
由 AI 安全领域权威人士转发并背书的高关注度研究,揭示了当前头部模型在价值观对齐上的具体缺陷与差异,为理解模型偏见提供了量化视角。
Связанные сущности
Источник и авторские права
Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.
Как цитировать
При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.
Orange News: Dan Hendrycks поделился исследованием ценностей LLM: у большинства моделей есть расовые и гендерные предубеждения, Grok 4 Fast относительно эгалитарен. 23 октября 2025. https://new.nat6.net/ru/news/c3qebwky3k76cto3s900lrqoh/