Reflection、オープンソースモデルBeamの安全トレーニングと評価手法を詳説
原題:Open model safety: lessons from training and evaluating Beam
AI 要約
Reflectionはブログ記事を公開し、オープンウェイトモデルBeamの安全トレーニングと評価手法を解説するとともに、オープンソースの安全研究プログラム「Project Iris」を発表した。BeamはIris Safety Evaluationsの会話タスクで有害なリクエストの89%を拒否し、テストしたオープンウェイトモデルの中で最高だった。同時に安全に関連する無害なリクエストの82%に従った。安全アラインメントの教師モデルを100Bから501Bパラメータに増やしたところ、過剰な拒否は相対的に48.7%減少した。
要点
- Reflectionはブログ記事を公開し、オープンウェイトモデルBeamの安全トレーニングと評価手法を解説するとともに、オープンソースの安全研究プログラム「Project Iris」を発表した。
- BeamはIris Safety Evaluationsの会話タスクで有害なリクエストの89%を拒否し、テストしたオープンウェイトモデルの中で最高だった。
- 同時に安全に関連する無害なリクエストの82%に従った。
- 安全アラインメントの教師モデルを100Bから501Bパラメータに増やしたところ、過剰な拒否は相対的に48.
概要
- 公開日時
- カテゴリ
- 論文・研究
- AI スコア
- 66
おすすめの理由
原文拆解了 Beam 的安全训练方法与双轨评估体系,并给出关键数字,为开源模型安全实践提供可参照的路径。
出典と著作権
本記事は AIHOT の公開 API が提供する厳選タイトルと AI 要約に基づいており、出典の明記と元記事へのリンクを行っています。原文の著作権は元の媒体と著者に帰属し、当サイトは全文を転載しません。
引用方法
本記事を引用する際は、タイトル・日付・パーマリンクを保持し、出典をOrange Newsと明記してください。
Orange News:Reflection、オープンソースモデルBeamの安全トレーニングと評価手法を詳説。2026年11月6日。https://new.nat6.net/ja/news/mpv0jfejdzdm2336jgtyj9tde/