论文与研究

Transluce 发布 Predictive Concept Decoders:用可解释性助手读取模型内部状态

原文标题:Predictive Concept Decoders

AI 摘要

Transluce 提出 Predictive Concept Decoders(PCD),训练可解释性助手把模型内部状态翻译成人类可读的概念列表,再据此回答模型行为问题。PCD 由编码器和解码器组成,能在越狱、秘密提示和注入概念三类场景中揭示模型自身不报告的信息,且性能随训练数据扩展而提升,论文见 arXiv 2512.15712,可在 decoder.transluce.org 体验。

关键信息

  • Transluce 提出 Predictive Concept Decoders(PCD),训练可解释性助手把模型内部状态翻译成人类可读的概念列表,再据此回答模型行为问题。
  • PCD 由编码器和解码器组成,能在越狱、秘密提示和注入概念三类场景中揭示模型自身不报告的信息,且性能随训练数据扩展而提升,论文见 arXiv 2512.
  • 15712,可在 decoder.
  • transluce.
  • 把可解释性建模为预测问题来端到端训练,并展示能揭示模型未言明信息的实验场景,方法思路可借鉴

速览

发布时间
更新时间
来源
Transluce(网页)
分类
论文与研究
AI 评分
60
阅读原文 前往信息源阅读完整正文
推荐理由

把可解释性建模为预测问题来端到端训练,并展示能揭示模型未言明信息的实验场景,方法思路可借鉴。

来源与版权

本文基于 AIHOT 公开 API 的精选标题与 AI 摘要整理,已注明来源并回链;原文版权归原媒体与作者所有,本站不镜像全文。

原文链接 · AIHOT 条目

如何引用

引用本文时请保留标题、日期与永久链接,并注明来源为橙子新闻。

橙子新闻:Transluce 发布 Predictive Concept Decoders:用可解释性助手读取模型内部状态。2025年12月18日。https://new.nat6.net/news/cmtym4910000erokscfvgip08/

查看全部 →