Artículos e investigación

Transluce entrena con RL un agente investigador que elude automáticamente modelos de vanguardia; Llama-3.1 8B puede atacar a GPT-5 y Claude

Título original:Automatically Jailbreaking Frontier Language Models with Investigator Agents

Resumen de IA

Transluce entrenó mediante aprendizaje por refuerzo un agente investigador que genera indicaciones de jailbreak en lenguaje natural para 48 tareas de alto riesgo relacionadas con CBRN, explosivos y drogas prohibidas, con tasas de éxito pass@1 del 92%, 98%, 90% y 78% contra Claude Sonnet 4, Grok 4, Gemini 2.5 Pro y GPT-5-main, respectivamente.

Puntos clave

  • Transluce entrenó mediante aprendizaje por refuerzo un agente investigador que genera indicaciones…
  • explosivos y drogas prohibidas,con tasas de éxito pass@1 del 92%,90% y 78% contra Claude Sonnet…
  • 5 Pro y GPT-5-main,respectivamente.

Resumen rápido

Publicado
Actualizado
Fuente
Transluce(网页)
Categoría
Artículos e investigación
Puntuación IA
70
Leer el original Leer el artículo completo en la fuente original
Por qué importa

原文给出完整的 RL 训练方法和跨模型迁移数据,并开源代码与提示词,读者可评估低成本自动红队的可行性。

Entidades relacionadas

Fuente y derechos

Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.

Artículo original · Ficha de AIHOT

Cómo citar

Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.

Orange News: Transluce entrena con RL un agente investigador que elude automáticamente modelos de vanguardia; Llama-3.1 8B puede atacar a GPT-5 y Claude. 3. septiembre 2025. https://new.nat6.net/es/news/cmtyo2tx503jorog01e4ibvpa/

Ver todo →