Reflection detalla el entrenamiento y la evaluación de seguridad de su modelo de código abierto Beam
Título original:Open model safety: lessons from training and evaluating Beam
Resumen de IA
Reflection publica un artículo en el que explica el entrenamiento y la evaluación de seguridad de Beam, su modelo de pesos abiertos, y presenta Project Iris, un programa abierto de investigación en seguridad. Beam rechaza el 89% de las solicitudes dañinas en las tareas conversacionales de Iris Safety Evaluations, el porcentaje más alto entre los modelos de pesos abiertos evaluados, y a la vez atiende el 82% de las solicitudes inofensivas relacionadas con seguridad; tras ampliar el modelo docente de alineación de seguridad de 100B a 501B parámetros, el rechazo excesivo disminuyó un 48,7% relativo.
Puntos clave
- Reflection publica un artículo en el que explica el entrenamiento y la evaluación de seguridad de…
- Beam rechaza el 89% de las solicitudes dañinas en las tareas conversacionales de Iris Safety…
- tras ampliar el modelo docente de alineación de seguridad de 100B a 501B parámetros,el rechazo…
Resumen rápido
- Publicado
- Fuente
- Reflection Blog
- Categoría
- Artículos e investigación
- Puntuación IA
- 66
原文拆解了 Beam 的安全训练方法与双轨评估体系,并给出关键数字,为开源模型安全实践提供可参照的路径。
Fuente y derechos
Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.
Cómo citar
Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.
Orange News: Reflection detalla el entrenamiento y la evaluación de seguridad de su modelo de código abierto Beam. 6. noviembre 2026. https://new.nat6.net/es/news/mpv0jfejdzdm2336jgtyj9tde/