Artículos e investigación

¿Pueden los datos de chat públicos predecir desajustes reales de la IA?

Título original:Can public chat data predict real-world AI misalignments?

Resumen de IA

OpenAI utilizó el conjunto de datos público WildChat (un millón de conversaciones recopiladas entre abril de 2023 y mayo de 2024) para simular el despliegue de modelos y predecir la tasa de comportamientos indeseados de GPT-5.1, GPT-5.2 y GPT-5.4 en entornos de producción reales. Al comparar con datos privados de producción, se observó que el error medio de predicción de la simulación con WildChat es de aproximadamente 3 veces; sin embargo, la precisión disminuye para desajustes técnicos y de tipo agente. El estudio valida la viabilidad de los conjuntos de datos públicos como herramienta de auditoría externa.

Puntos clave

  • OpenAI utilizó el conjunto de datos público WildChat (un millón de conversaciones recopiladas…
  • 2 y GPT-5.
  • 4 en entornos de producción reales.
  • Al comparar con datos privados de producción,se observó que el error medio de predicción de la…
  • sin embargo,la precisión disminuye para desajustes técnicos y de tipo agente.

Resumen rápido

Publicado
Actualizado
Fuente
OpenAI:Alignment 研究博客(RSS)
Categoría
Artículos e investigación
Puntuación IA
73
Leer el original Leer el artículo completo en la fuente original
Por qué importa

用公开旧聊天数据预测模型真实失败率,误差居然在 3 倍以内,做外部审计的可以认真看看。不过 agentic 场景明显不行,需要新数据集。

Entidades relacionadas

Fuente y derechos

Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.

Artículo original · Ficha de AIHOT

Cómo citar

Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.

Orange News: ¿Pueden los datos de chat públicos predecir desajustes reales de la IA?. 17. junio 2026. https://new.nat6.net/es/news/cmqh269tl004esle1vztceb34/

Ver todo →