Artículos e investigación

Reflection detalla el entrenamiento y la evaluación de seguridad de su modelo de código abierto Beam

Título original:Open model safety: lessons from training and evaluating Beam

Resumen de IA

Reflection publica un artículo en el que explica el entrenamiento y la evaluación de seguridad de Beam, su modelo de pesos abiertos, y presenta Project Iris, un programa abierto de investigación en seguridad. Beam rechaza el 89% de las solicitudes dañinas en las tareas conversacionales de Iris Safety Evaluations, el porcentaje más alto entre los modelos de pesos abiertos evaluados, y a la vez atiende el 82% de las solicitudes inofensivas relacionadas con seguridad; tras ampliar el modelo docente de alineación de seguridad de 100B a 501B parámetros, el rechazo excesivo disminuyó un 48,7% relativo.

Puntos clave

  • Reflection publica un artículo en el que explica el entrenamiento y la evaluación de seguridad de…
  • Beam rechaza el 89% de las solicitudes dañinas en las tareas conversacionales de Iris Safety…
  • tras ampliar el modelo docente de alineación de seguridad de 100B a 501B parámetros,el rechazo…

Resumen rápido

Publicado
Fuente
Reflection Blog
Categoría
Artículos e investigación
Tema
Ecosistema de código abiertoSeguridad y alineación
Puntuación IA
66
Leer el original Leer el artículo completo en la fuente original
Por qué importa

原文拆解了 Beam 的安全训练方法与双轨评估体系,并给出关键数字,为开源模型安全实践提供可参照的路径。

Temas

Fuente y derechos

Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.

Artículo original · Ficha de AIHOT

Cómo citar

Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.

Orange News: Reflection detalla el entrenamiento y la evaluación de seguridad de su modelo de código abierto Beam. 6. noviembre 2026. https://new.nat6.net/es/news/mpv0jfejdzdm2336jgtyj9tde/

Ver todo →