Transluce veröffentlicht Predictive Concept Decoders zur Auslesung interner Modellzustände
Originaltitel:Predictive Concept Decoders
KI-Zusammenfassung
Transluce stellt Predictive Concept Decoders (PCD) vor: Ein trainierter Interpretierbarkeits-Assistent übersetzt interne Modellzustände in menschenlesbare Konzeptlisten und beantwortet damit Fragen zum Modellverhalten. PCD besteht aus Encoder und Decoder und legt in den drei Szenarien Jailbreak, geheime Prompts und injizierte Konzepte Informationen offen, die das Modell selbst nicht berichtet; die Leistung steigt mit der Trainingsdatenmenge. Das Paper ist unter arXiv 2512.15712 verfügbar, eine Demo unter decoder.transluce.org.
Kernpunkte
- Transluce stellt Predictive Concept Decoders (PCD) vor: Ein trainierter…
- PCD besteht aus Encoder und Decoder und legt in den drei Szenarien Jailbreak,geheime Prompts und…
- die Leistung steigt mit der Trainingsdatenmenge.
- Das Paper ist unter arXiv 2512.
- 15712 verfügbar,eine Demo unter decoder.
Auf einen Blick
- Veröffentlicht
- Aktualisiert
- Quelle
- Transluce(网页)
- Kategorie
- Papers & Forschung
- KI-Bewertung
- 60
把可解释性建模为预测问题来端到端训练,并展示能揭示模型未言明信息的实验场景,方法思路可借鉴。
Quelle & Urheberrecht
Dieser Artikel basiert auf kuratierten Titeln und KI-Zusammenfassungen der öffentlichen AIHOT-API, mit Quellenangabe und Rückverlinkung. Das Urheberrecht am Original liegt bei den ursprünglichen Medien und Autoren; diese Seite spiegelt keine Volltexte.
Zitierhinweis
Beim Zitieren dieses Artikels bitte Titel, Datum und Permalink beibehalten und Orange News als Quelle angeben.
Orange News: Transluce veröffentlicht Predictive Concept Decoders zur Auslesung interner Modellzustände. 18. Dezember 2025. https://new.nat6.net/de/news/cmtym4910000erokscfvgip08/