論文・研究

Transluce、PRBO手法を提唱、RLエージェントでLlama、Qwen、DeepSeekの稀な病理行動を自動発見

原題:Surfacing Pathological Behaviors in Language Models

AI 要約

Transluceは研究報告を発表し、PRBO(傾向下界)を疎な報酬の代理として提唱した。RL調査エージェントをトレーニングして現実的で自然なプロンプトを生成させ、オープンウェイトモデルの指定された稀な行動を引き出す。対象はLlama 3.1/4、Qwen 2.5、DeepSeek-V3に及ぶ。

要点

  • Transluceは研究報告を発表し、PRBO(傾向下界)を疎な報酬の代理として提唱した。
  • RL調査エージェントをトレーニングして現実的で自然なプロンプトを生成させ、オープンウェイトモデルの指定された稀な行動を引き出す。
  • 対象はLlama 3.
  • 1/4、Qwen 2.
  • 5、DeepSeek-V3に及ぶ

概要

公開日時
更新日時
出典
Transluce(网页)
カテゴリ
論文・研究
AI スコア
66
原文を読む 情報源で全文を読む
おすすめの理由

Transluce 提出用 PRBO 和 RL 调查智能体自动激发模型的罕见问题行为,并分析这些行为在真实提示下能否复现。

関連エンティティ

出典と著作権

本記事は AIHOT の公開 API が提供する厳選タイトルと AI 要約に基づいており、出典の明記と元記事へのリンクを行っています。原文の著作権は元の媒体と著者に帰属し、当サイトは全文を転載しません。

原文記事 · AIHOT 記事

引用方法

本記事を引用する際は、タイトル・日付・パーマリンクを保持し、出典をOrange Newsと明記してください。

Orange News:Transluce、PRBO手法を提唱、RLエージェントでLlama、Qwen、DeepSeekの稀な病理行動を自動発見。2025年6月5日。https://new.nat6.net/ja/news/cmtyo2tx503jqrog01dxgq3is/

すべて見る →