Artículos e investigación

Transluce propone el método PRBO para que agentes de RL descubran automáticamente comportamientos patológicos raros en Llama, Qwen y DeepSeek

Título original:Surfacing Pathological Behaviors in Language Models

Resumen de IA

Transluce publicó un informe de investigación que propone PRBO (límite inferior de propensión) como sustituto de recompensas dispersas, y entrena agentes investigadores de RL para generar indicaciones reales y naturales que provoquen comportamientos raros específicos en modelos de pesos abiertos, abarcando Llama 3.1/4, Qwen 2.5 y DeepSeek-V3.

Puntos clave

  • Transluce publicó un informe de investigación que propone PRBO (límite inferior de propensión)…
  • 1/4,Qwen 2.
  • 5 y DeepSeek-V3.

Resumen rápido

Publicado
Actualizado
Fuente
Transluce(网页)
Categoría
Artículos e investigación
Puntuación IA
66
Leer el original Leer el artículo completo en la fuente original
Por qué importa

Transluce 提出用 PRBO 和 RL 调查智能体自动激发模型的罕见问题行为,并分析这些行为在真实提示下能否复现。

Entidades relacionadas

Fuente y derechos

Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.

Artículo original · Ficha de AIHOT

Cómo citar

Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.

Orange News: Transluce propone el método PRBO para que agentes de RL descubran automáticamente comportamientos patológicos raros en Llama, Qwen y DeepSeek. 5. junio 2025. https://new.nat6.net/es/news/cmtyo2tx503jqrog01dxgq3is/

Ver todo →