Transluce entrena con RL un agente investigador que elude automáticamente modelos de vanguardia; Llama-3.1 8B puede atacar a GPT-5 y Claude
Título original:Automatically Jailbreaking Frontier Language Models with Investigator Agents
Resumen de IA
Transluce entrenó mediante aprendizaje por refuerzo un agente investigador que genera indicaciones de jailbreak en lenguaje natural para 48 tareas de alto riesgo relacionadas con CBRN, explosivos y drogas prohibidas, con tasas de éxito pass@1 del 92%, 98%, 90% y 78% contra Claude Sonnet 4, Grok 4, Gemini 2.5 Pro y GPT-5-main, respectivamente.
Puntos clave
- Transluce entrenó mediante aprendizaje por refuerzo un agente investigador que genera indicaciones…
- explosivos y drogas prohibidas,con tasas de éxito pass@1 del 92%,90% y 78% contra Claude Sonnet…
- 5 Pro y GPT-5-main,respectivamente.
Resumen rápido
- Publicado
- Actualizado
- Fuente
- Transluce(网页)
- Categoría
- Artículos e investigación
- Puntuación IA
- 70
原文给出完整的 RL 训练方法和跨模型迁移数据,并开源代码与提示词,读者可评估低成本自动红队的可行性。
Entidades relacionadas
Fuente y derechos
Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.
Cómo citar
Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.
Orange News: Transluce entrena con RL un agente investigador que elude automáticamente modelos de vanguardia; Llama-3.1 8B puede atacar a GPT-5 y Claude. 3. septiembre 2025. https://new.nat6.net/es/news/cmtyo2tx503jorog01e4ibvpa/