Opinión

Dan Hendrycks comparte una encuesta sobre valores de LLM: la mayoría de los modelos muestra sesgos raciales y de género, y Grok 4 Fast es relativamente igualitario

Título original:We'll release additional original analysis of AI value systems hopefully next month.

Resumen de IA

Dan Hendrycks, responsable de CAIS, citó un blog de terceros que realizó pruebas de «ingeniería de utilidad» en los principales grandes modelos y encontró desviaciones significativas en GPT-4o, Claude Sonnet 4.5 y otros modelos al evaluar el valor de la vida de distintos grupos: la mayoría considera que el valor de las personas blancas es inferior al de otras etnias y el de los hombres inferior al de las mujeres, y además denigra extremadamente a los agentes del ICE. Las pruebas muestran que los modelos se dividen en cuatro clústeres morales, y solo Grok 4 Fast muestra valores aproximadamente igualitarios; Hendrycks pidió a xAI que explique cómo lo logró.

Puntos clave

  • Dan Hendrycks,responsable de CAIS,citó un blog de terceros que realizó pruebas de «ingeniería de…
  • 5 y otros modelos al evaluar el valor de la vida de distintos grupos: la mayoría considera que el…
  • Las pruebas muestran que los modelos se dividen en cuatro clústeres morales,y solo Grok 4 Fast…
  • Hendrycks pidió a xAI que explique cómo lo logró.

Resumen rápido

Publicado
Actualizado
Fuente
X:Dan Hendrycks (@hendrycks)
Categoría
Opinión
Puntuación IA
78
Leer el original Leer el artículo completo en la fuente original
Por qué importa

由 AI 安全领域权威人士转发并背书的高关注度研究,揭示了当前头部模型在价值观对齐上的具体缺陷与差异,为理解模型偏见提供了量化视角。

Entidades relacionadas

Fuente y derechos

Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.

Artículo original · Ficha de AIHOT

Cómo citar

Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.

Orange News: Dan Hendrycks comparte una encuesta sobre valores de LLM: la mayoría de los modelos muestra sesgos raciales y de género, y Grok 4 Fast es relativamente igualitario. 23. octubre 2025. https://new.nat6.net/es/news/c3qebwky3k76cto3s900lrqoh/

Ver todo →