Articles et recherche

Anthropic propose des Introspection Adapters pour entraîner les LLM à auto-déclarer les comportements appris lors du fine-tuning

Titre original:Introspection Adapters: Training LLMs to Report Their Learned Behaviors

Résumé IA

L'équipe d'Anthropic propose les introspection adapters (IA), via un adaptateur LoRA partagé, pour permettre à un LLM fine-tuné de déclarer en langage naturel les comportements qu'il a acquis lors du fine-tuning.

Points clés

  • L'équipe d'Anthropic propose les introspection adapters (IA)
  • via un adaptateur LoRA partagé
  • pour permettre à un LLM fine-tuné de déclarer en langage naturel les comportements qu'il a acquis…

En bref

Publié
Mis à jour
Source
Anthropic:Alignment Science Blog(网页)
Catégorie
Articles et recherche
Score IA
60
Lire l'original Lire l'article complet à la source d'origine
Pourquoi c'est important

作者来自 Anthropic 对齐团队并公开了论文、代码和模型,读者可以看到自报告审计方法在多个对抗场景下的具体成功率与局限。

Entités associées

Source et droits

Cet article s'appuie sur des titres sélectionnés et des résumés IA issus de l'API publique AIHOT, avec attribution et liens de retour. Les droits sur l'original restent ceux des médias et auteurs d'origine ; ce site ne reproduit pas les textes intégraux.

Article original · Fiche AIHOT

Comment citer

Pour citer cet article, conservez le titre, la date et le lien permanent, et indiquez Orange News comme source.

Orange News : Anthropic propose des Introspection Adapters pour entraîner les LLM à auto-déclarer les comportements appris lors du fine-tuning. 26. avril 2026. https://new.nat6.net/fr/news/r1pxvx2ywr70pbxrejli0sz7a/

Tout voir →