Transluce、PRBO手法を提唱、RLエージェントでLlama、Qwen、DeepSeekの稀な病理行動を自動発見
原題:Surfacing Pathological Behaviors in Language Models
AI 要約
Transluceは研究報告を発表し、PRBO(傾向下界)を疎な報酬の代理として提唱した。RL調査エージェントをトレーニングして現実的で自然なプロンプトを生成させ、オープンウェイトモデルの指定された稀な行動を引き出す。対象はLlama 3.1/4、Qwen 2.5、DeepSeek-V3に及ぶ。
要点
- Transluceは研究報告を発表し、PRBO(傾向下界)を疎な報酬の代理として提唱した。
- RL調査エージェントをトレーニングして現実的で自然なプロンプトを生成させ、オープンウェイトモデルの指定された稀な行動を引き出す。
- 対象はLlama 3.
- 1/4、Qwen 2.
- 5、DeepSeek-V3に及ぶ
概要
- 公開日時
- 更新日時
- カテゴリ
- 論文・研究
- AI スコア
- 66
おすすめの理由
Transluce 提出用 PRBO 和 RL 调查智能体自动激发模型的罕见问题行为,并分析这些行为在真实提示下能否复现。
関連エンティティ
出典と著作権
本記事は AIHOT の公開 API が提供する厳選タイトルと AI 要約に基づいており、出典の明記と元記事へのリンクを行っています。原文の著作権は元の媒体と著者に帰属し、当サイトは全文を転載しません。
引用方法
本記事を引用する際は、タイトル・日付・パーマリンクを保持し、出典をOrange Newsと明記してください。
Orange News:Transluce、PRBO手法を提唱、RLエージェントでLlama、Qwen、DeepSeekの稀な病理行動を自動発見。2025年6月5日。https://new.nat6.net/ja/news/cmtyo2tx503jqrog01dxgq3is/