Transluce предложила метод PRBO: RL-агент автоматически находит редкие патологические поведения Llama, Qwen и DeepSeek
Оригинальный заголовок:Surfacing Pathological Behaviors in Language Models
ИИ-резюме
Transluce опубликовала исследование, в котором предложила PRBO (нижняя граница склонности) как суррогат разреженного вознаграждения и обучила RL-агента-исследователя генерировать реалистичные естественные подсказки для вызова заданного редкого поведения моделей с открытыми весами, включая Llama 3.1/4, Qwen 2.5 и DeepSeek-V3.
Ключевые моменты
- Transluce опубликовала исследование,в котором предложила PRBO (нижняя граница склонности) как…
- 1/4,Qwen 2.
- 5 и DeepSeek-V3.
Кратко
- Опубликовано
- Обновлено
- Источник
- Transluce(网页)
- Категория
- Статьи и исследования
- Оценка ИИ
- 66
Transluce 提出用 PRBO 和 RL 调查智能体自动激发模型的罕见问题行为,并分析这些行为在真实提示下能否复现。
Связанные сущности
Источник и авторские права
Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.
Как цитировать
При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.
Orange News: Transluce предложила метод PRBO: RL-агент автоматически находит редкие патологические поведения Llama, Qwen и DeepSeek. 5 июня 2025. https://new.nat6.net/ru/news/cmtyo2tx503jqrog01dxgq3is/