Papers & Forschung

Transluce veröffentlicht Predictive Concept Decoders zur Auslesung interner Modellzustände

Originaltitel:Predictive Concept Decoders

KI-Zusammenfassung

Transluce stellt Predictive Concept Decoders (PCD) vor: Ein trainierter Interpretierbarkeits-Assistent übersetzt interne Modellzustände in menschenlesbare Konzeptlisten und beantwortet damit Fragen zum Modellverhalten. PCD besteht aus Encoder und Decoder und legt in den drei Szenarien Jailbreak, geheime Prompts und injizierte Konzepte Informationen offen, die das Modell selbst nicht berichtet; die Leistung steigt mit der Trainingsdatenmenge. Das Paper ist unter arXiv 2512.15712 verfügbar, eine Demo unter decoder.transluce.org.

Kernpunkte

  • Transluce stellt Predictive Concept Decoders (PCD) vor: Ein trainierter…
  • PCD besteht aus Encoder und Decoder und legt in den drei Szenarien Jailbreak,geheime Prompts und…
  • die Leistung steigt mit der Trainingsdatenmenge.
  • Das Paper ist unter arXiv 2512.
  • 15712 verfügbar,eine Demo unter decoder.

Auf einen Blick

Veröffentlicht
Aktualisiert
Quelle
Transluce(网页)
Kategorie
Papers & Forschung
KI-Bewertung
60
Original lesen Den vollständigen Artikel bei der Originalquelle lesen
Warum es wichtig ist

把可解释性建模为预测问题来端到端训练,并展示能揭示模型未言明信息的实验场景,方法思路可借鉴。

Quelle & Urheberrecht

Dieser Artikel basiert auf kuratierten Titeln und KI-Zusammenfassungen der öffentlichen AIHOT-API, mit Quellenangabe und Rückverlinkung. Das Urheberrecht am Original liegt bei den ursprünglichen Medien und Autoren; diese Seite spiegelt keine Volltexte.

Originalartikel · AIHOT-Eintrag

Zitierhinweis

Beim Zitieren dieses Artikels bitte Titel, Datum und Permalink beibehalten und Orange News als Quelle angeben.

Orange News: Transluce veröffentlicht Predictive Concept Decoders zur Auslesung interner Modellzustände. 18. Dezember 2025. https://new.nat6.net/de/news/cmtym4910000erokscfvgip08/

Alle ansehen →