Articles et recherche

Transluce propose la méthode PRBO pour découvrir automatiquement par agent RL des comportements pathologiques rares dans Llama, Qwen et DeepSeek

Titre original:Surfacing Pathological Behaviors in Language Models

Résumé IA

Transluce publie une étude proposant PRBO (borne inférieure de propension) comme substitut aux récompenses éparses, afin d'entraîner un agent d'investigation RL à générer des prompts naturels et réalistes pour déclencher des comportements rares spécifiés dans des modèles à poids ouverts, couvrant Llama 3.1/4, Qwen 2.5 et DeepSeek-V3.

Points clés

  • Transluce publie une étude proposant PRBO (borne inférieure de propension) comme substitut aux…
  • 1/4,Qwen 2.
  • 5 et DeepSeek-V3.

En bref

Publié
Mis à jour
Source
Transluce(网页)
Catégorie
Articles et recherche
Score IA
66
Lire l'original Lire l'article complet à la source d'origine
Pourquoi c'est important

Transluce 提出用 PRBO 和 RL 调查智能体自动激发模型的罕见问题行为,并分析这些行为在真实提示下能否复现。

Entités associées

Source et droits

Cet article s'appuie sur des titres sélectionnés et des résumés IA issus de l'API publique AIHOT, avec attribution et liens de retour. Les droits sur l'original restent ceux des médias et auteurs d'origine ; ce site ne reproduit pas les textes intégraux.

Article original · Fiche AIHOT

Comment citer

Pour citer cet article, conservez le titre, la date et le lien permanent, et indiquez Orange News comme source.

Orange News : Transluce propose la méthode PRBO pour découvrir automatiquement par agent RL des comportements pathologiques rares dans Llama, Qwen et DeepSeek. 5. juin 2025. https://new.nat6.net/fr/news/cmtyo2tx503jqrog01dxgq3is/

Tout voir →