Reflection 详解开源模型 Beam 的安全训练与评估方法
原文标题:Open model safety: lessons from training and evaluating Beam
AI 摘要
Reflection 发布博文,讲解其开源权重模型 Beam 的安全训练与评估方法,并推出开源安全研究计划 Project Iris。Beam 在 Iris Safety Evaluations 对话任务中拒绝 89% 的有害请求,为所测开源权重模型中最高,同时遵守 82% 的安全相关无害请求;安全对齐教师模型从 100B 增至 501B 参数后,过度拒绝相对下降 48.7%。
关键信息
- Reflection 发布博文,讲解其开源权重模型 Beam 的安全训练与评估方法,并推出开源安全研究计划 Project Iris。
- Beam 在 Iris Safety Evaluations 对话任务中拒绝 89% 的有害请求,为所测开源权重模型中最高,同时遵守 82% 的安全相关无害请求
- 安全对齐教师模型从 100B 增至 501B 参数后,过度拒绝相对下降 48.
- 原文拆解了 Beam 的安全训练方法与双轨评估体系,并给出关键数字,为开源模型安全实践提供可参照的路径
速览
- 发布时间
- 分类
- 论文与研究
- AI 评分
- 66
推荐理由
原文拆解了 Beam 的安全训练方法与双轨评估体系,并给出关键数字,为开源模型安全实践提供可参照的路径。
相关主题
来源与版权
本文基于 AIHOT 公开 API 的精选标题与 AI 摘要整理,已注明来源并回链;原文版权归原媒体与作者所有,本站不镜像全文。
如何引用
引用本文时请保留标题、日期与永久链接,并注明来源为橙子新闻。
橙子新闻:Reflection 详解开源模型 Beam 的安全训练与评估方法。2026年11月6日。https://new.nat6.net/news/mpv0jfejdzdm2336jgtyj9tde/