論文・研究

Reflection、オープンソースモデルBeamの安全トレーニングと評価手法を詳説

原題:Open model safety: lessons from training and evaluating Beam

AI 要約

Reflectionはブログ記事を公開し、オープンウェイトモデルBeamの安全トレーニングと評価手法を解説するとともに、オープンソースの安全研究プログラム「Project Iris」を発表した。BeamはIris Safety Evaluationsの会話タスクで有害なリクエストの89%を拒否し、テストしたオープンウェイトモデルの中で最高だった。同時に安全に関連する無害なリクエストの82%に従った。安全アラインメントの教師モデルを100Bから501Bパラメータに増やしたところ、過剰な拒否は相対的に48.7%減少した。

要点

  • Reflectionはブログ記事を公開し、オープンウェイトモデルBeamの安全トレーニングと評価手法を解説するとともに、オープンソースの安全研究プログラム「Project Iris」を発表した。
  • BeamはIris Safety Evaluationsの会話タスクで有害なリクエストの89%を拒否し、テストしたオープンウェイトモデルの中で最高だった。
  • 同時に安全に関連する無害なリクエストの82%に従った。
  • 安全アラインメントの教師モデルを100Bから501Bパラメータに増やしたところ、過剰な拒否は相対的に48.

概要

公開日時
出典
Reflection Blog
カテゴリ
論文・研究
トピック
オープンソースエコシステム安全とアラインメント
AI スコア
66
原文を読む 情報源で全文を読む
おすすめの理由

原文拆解了 Beam 的安全训练方法与双轨评估体系,并给出关键数字,为开源模型安全实践提供可参照的路径。

関連トピック

出典と著作権

本記事は AIHOT の公開 API が提供する厳選タイトルと AI 要約に基づいており、出典の明記と元記事へのリンクを行っています。原文の著作権は元の媒体と著者に帰属し、当サイトは全文を転載しません。

原文記事 · AIHOT 記事

引用方法

本記事を引用する際は、タイトル・日付・パーマリンクを保持し、出典をOrange Newsと明記してください。

Orange News:Reflection、オープンソースモデルBeamの安全トレーニングと評価手法を詳説。2026年11月6日。https://new.nat6.net/ja/news/mpv0jfejdzdm2336jgtyj9tde/

すべて見る →