Transluce propose la méthode PRBO pour découvrir automatiquement par agent RL des comportements pathologiques rares dans Llama, Qwen et DeepSeek
Titre original:Surfacing Pathological Behaviors in Language Models
Résumé IA
Transluce publie une étude proposant PRBO (borne inférieure de propension) comme substitut aux récompenses éparses, afin d'entraîner un agent d'investigation RL à générer des prompts naturels et réalistes pour déclencher des comportements rares spécifiés dans des modèles à poids ouverts, couvrant Llama 3.1/4, Qwen 2.5 et DeepSeek-V3.
Points clés
- Transluce publie une étude proposant PRBO (borne inférieure de propension) comme substitut aux…
- 1/4,Qwen 2.
- 5 et DeepSeek-V3.
En bref
- Publié
- Mis à jour
- Source
- Transluce(网页)
- Catégorie
- Articles et recherche
- Score IA
- 66
Transluce 提出用 PRBO 和 RL 调查智能体自动激发模型的罕见问题行为,并分析这些行为在真实提示下能否复现。
Entités associées
Source et droits
Cet article s'appuie sur des titres sélectionnés et des résumés IA issus de l'API publique AIHOT, avec attribution et liens de retour. Les droits sur l'original restent ceux des médias et auteurs d'origine ; ce site ne reproduit pas les textes intégraux.
Comment citer
Pour citer cet article, conservez le titre, la date et le lien permanent, et indiquez Orange News comme source.
Orange News : Transluce propose la méthode PRBO pour découvrir automatiquement par agent RL des comportements pathologiques rares dans Llama, Qwen et DeepSeek. 5. juin 2025. https://new.nat6.net/fr/news/cmtyo2tx503jqrog01dxgq3is/