Anthropic propose des Introspection Adapters pour entraîner les LLM à auto-déclarer les comportements appris lors du fine-tuning
Titre original:Introspection Adapters: Training LLMs to Report Their Learned Behaviors
Résumé IA
L'équipe d'Anthropic propose les introspection adapters (IA), via un adaptateur LoRA partagé, pour permettre à un LLM fine-tuné de déclarer en langage naturel les comportements qu'il a acquis lors du fine-tuning.
Points clés
- L'équipe d'Anthropic propose les introspection adapters (IA)
- via un adaptateur LoRA partagé
- pour permettre à un LLM fine-tuné de déclarer en langage naturel les comportements qu'il a acquis…
En bref
- Publié
- Mis à jour
- Catégorie
- Articles et recherche
- Score IA
- 60
作者来自 Anthropic 对齐团队并公开了论文、代码和模型,读者可以看到自报告审计方法在多个对抗场景下的具体成功率与局限。
Entités associées
Source et droits
Cet article s'appuie sur des titres sélectionnés et des résumés IA issus de l'API publique AIHOT, avec attribution et liens de retour. Les droits sur l'original restent ceux des médias et auteurs d'origine ; ce site ne reproduit pas les textes intégraux.
Comment citer
Pour citer cet article, conservez le titre, la date et le lien permanent, et indiquez Orange News comme source.
Orange News : Anthropic propose des Introspection Adapters pour entraîner les LLM à auto-déclarer les comportements appris lors du fine-tuning. 26. avril 2026. https://new.nat6.net/fr/news/r1pxvx2ywr70pbxrejli0sz7a/