论文与研究

Reflection 详解开源模型 Beam 的安全训练与评估方法

原文标题:Open model safety: lessons from training and evaluating Beam

AI 摘要

Reflection 发布博文,讲解其开源权重模型 Beam 的安全训练与评估方法,并推出开源安全研究计划 Project Iris。Beam 在 Iris Safety Evaluations 对话任务中拒绝 89% 的有害请求,为所测开源权重模型中最高,同时遵守 82% 的安全相关无害请求;安全对齐教师模型从 100B 增至 501B 参数后,过度拒绝相对下降 48.7%。

关键信息

  • Reflection 发布博文,讲解其开源权重模型 Beam 的安全训练与评估方法,并推出开源安全研究计划 Project Iris。
  • Beam 在 Iris Safety Evaluations 对话任务中拒绝 89% 的有害请求,为所测开源权重模型中最高,同时遵守 82% 的安全相关无害请求
  • 安全对齐教师模型从 100B 增至 501B 参数后,过度拒绝相对下降 48.
  • 原文拆解了 Beam 的安全训练方法与双轨评估体系,并给出关键数字,为开源模型安全实践提供可参照的路径

速览

发布时间
来源
Reflection Blog
分类
论文与研究
主题
开源生态安全对齐
AI 评分
66
阅读原文 前往信息源阅读完整正文
推荐理由

原文拆解了 Beam 的安全训练方法与双轨评估体系,并给出关键数字,为开源模型安全实践提供可参照的路径。

相关主题

来源与版权

本文基于 AIHOT 公开 API 的精选标题与 AI 摘要整理,已注明来源并回链;原文版权归原媒体与作者所有,本站不镜像全文。

原文链接 · AIHOT 条目

如何引用

引用本文时请保留标题、日期与永久链接,并注明来源为橙子新闻。

橙子新闻:Reflection 详解开源模型 Beam 的安全训练与评估方法。2026年11月6日。https://new.nat6.net/news/mpv0jfejdzdm2336jgtyj9tde/

查看全部 →