Статьи и исследования

Transluce предложила метод PRBO: RL-агент автоматически находит редкие патологические поведения Llama, Qwen и DeepSeek

Оригинальный заголовок:Surfacing Pathological Behaviors in Language Models

ИИ-резюме

Transluce опубликовала исследование, в котором предложила PRBO (нижняя граница склонности) как суррогат разреженного вознаграждения и обучила RL-агента-исследователя генерировать реалистичные естественные подсказки для вызова заданного редкого поведения моделей с открытыми весами, включая Llama 3.1/4, Qwen 2.5 и DeepSeek-V3.

Ключевые моменты

  • Transluce опубликовала исследование,в котором предложила PRBO (нижняя граница склонности) как…
  • 1/4,Qwen 2.
  • 5 и DeepSeek-V3.

Кратко

Опубликовано
Обновлено
Источник
Transluce(网页)
Категория
Статьи и исследования
Оценка ИИ
66
Читать оригинал Читать полную статью в первоисточнике
Почему это важно

Transluce 提出用 PRBO 和 RL 调查智能体自动激发模型的罕见问题行为,并分析这些行为在真实提示下能否复现。

Связанные сущности

Источник и авторские права

Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.

Оригинал статьи · Материал на AIHOT

Как цитировать

При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.

Orange News: Transluce предложила метод PRBO: RL-агент автоматически находит редкие патологические поведения Llama, Qwen и DeepSeek. 5 июня 2025. https://new.nat6.net/ru/news/cmtyo2tx503jqrog01dxgq3is/

Смотреть все →