Мнения

Dan Hendrycks поделился исследованием ценностей LLM: у большинства моделей есть расовые и гендерные предубеждения, Grok 4 Fast относительно эгалитарен

Оригинальный заголовок:We'll release additional original analysis of AI value systems hopefully next month.

ИИ-резюме

Глава CAIS Дэн Хендрикс сослался на сторонний блог, тестирующий ведущие большие языковые модели в рамках «инженерии полезности», и обнаружил, что GPT-4o, Claude Sonnet 4.5 и другие модели заметно смещены при оценке ценности жизни разных групп: большинство считает ценность белых ниже, чем других этносов, а мужчин — ниже, чем женщин, и крайне принижает агентов ICE. Тест показал, что модели делятся на четыре моральных кластера, и только Grok 4 Fast демонстрирует почти эгалитарные ценности; Хендрикс призвал xAI объяснить, как это достигнуто.

Ключевые моменты

  • Глава CAIS Дэн Хендрикс сослался на сторонний блог,тестирующий ведущие большие языковые модели в…
  • 5 и другие модели заметно смещены при оценке ценности жизни разных групп: большинство считает…
  • Тест показал,что модели делятся на четыре моральных кластера,и только Grok 4 Fast демонстрирует…
  • Хендрикс призвал xAI объяснить,как это достигнуто.

Кратко

Опубликовано
Обновлено
Источник
X:Dan Hendrycks (@hendrycks)
Категория
Мнения
Оценка ИИ
78
Читать оригинал Читать полную статью в первоисточнике
Почему это важно

由 AI 安全领域权威人士转发并背书的高关注度研究,揭示了当前头部模型在价值观对齐上的具体缺陷与差异,为理解模型偏见提供了量化视角。

Связанные сущности

Источник и авторские права

Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.

Оригинал статьи · Материал на AIHOT

Как цитировать

При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.

Orange News: Dan Hendrycks поделился исследованием ценностей LLM: у большинства моделей есть расовые и гендерные предубеждения, Grok 4 Fast относительно эгалитарен. 23 октября 2025. https://new.nat6.net/ru/news/c3qebwky3k76cto3s900lrqoh/

Смотреть все →