Transluce lance Predictive Concept Decoders pour lire l'état interne des modèles
Titre original:Predictive Concept Decoders
Résumé IA
Transluce propose Predictive Concept Decoders (PCD), qui entraînent un assistant d'interprétabilité à traduire l'état interne d'un modèle en une liste de concepts lisibles par l'humain, puis à répondre à des questions sur son comportement. Composé d'un encodeur et d'un décodeur, PCD révèle dans les jailbreaks, les prompts secrets et l'injection de concepts des informations que le modèle ne signale pas lui-même ; ses performances s'améliorent avec les données d'entraînement. Article : arXiv 2512.15712 ; démonstration : decoder.transluce.org.
Points clés
- Transluce propose Predictive Concept Decoders (PCD),qui entraînent un assistant d'interprétabilité…
- Composé d'un encodeur et d'un décodeur,PCD révèle dans les jailbreaks,les prompts secrets et…
- ses performances s'améliorent avec les données d'entraînement.
- Article: arXiv 2512.
- démonstration: decoder.
En bref
- Publié
- Mis à jour
- Source
- Transluce(网页)
- Catégorie
- Articles et recherche
- Score IA
- 60
把可解释性建模为预测问题来端到端训练,并展示能揭示模型未言明信息的实验场景,方法思路可借鉴。
Source et droits
Cet article s'appuie sur des titres sélectionnés et des résumés IA issus de l'API publique AIHOT, avec attribution et liens de retour. Les droits sur l'original restent ceux des médias et auteurs d'origine ; ce site ne reproduit pas les textes intégraux.
Comment citer
Pour citer cet article, conservez le titre, la date et le lien permanent, et indiquez Orange News comme source.
Orange News : Transluce lance Predictive Concept Decoders pour lire l'état interne des modèles. 18. décembre 2025. https://new.nat6.net/fr/news/cmtym4910000erokscfvgip08/