Makalah & Riset

Transluce merilis Predictive Concept Decoders: membaca keadaan internal model dengan asisten interpretabilitas

Judul asli:Predictive Concept Decoders

Ringkasan AI

Transluce mengusulkan Predictive Concept Decoders (PCD), melatih asisten interpretabilitas untuk menerjemahkan keadaan internal model menjadi daftar konsep yang dapat dibaca manusia, lalu menjawab pertanyaan tentang perilaku model berdasarkan itu. PCD terdiri dari encoder dan decoder, dapat mengungkap informasi yang tidak dilaporkan model sendiri dalam tiga skenario yaitu jailbreak, prompt rahasia, dan konsep yang disuntikkan, serta performanya meningkat seiring perluasan data pelatihan, makalah tersedia di arXiv 2512.15712, dapat dicoba di decoder.transluce.org.

Poin utama

  • Transluce mengusulkan Predictive Concept Decoders (PCD),melatih asisten interpretabilitas untuk…
  • PCD terdiri dari encoder dan decoder,dapat mengungkap informasi yang tidak dilaporkan model…
  • 15712,dapat dicoba di decoder.
  • transluce.

Ringkasan cepat

Waktu terbit
Waktu diperbarui
Sumber
Transluce(网页)
Kategori
Makalah & Riset
Skor AI
60
Baca aslinya Baca artikel lengkap di sumber aslinya
Alasan rekomendasi

把可解释性建模为预测问题来端到端训练,并展示能揭示模型未言明信息的实验场景,方法思路可借鉴。

Sumber dan hak cipta

Artikel ini disusun berdasarkan judul pilihan dan ringkasan AI dari API publik AIHOT, dengan sumber yang dicantumkan dan tautan balik; hak cipta konten asli milik media dan penulis aslinya, situs ini tidak menyalin artikel secara penuh.

Tautan asli · Entri AIHOT

Cara mengutip

Saat mengutip artikel ini, sertakan judul, tanggal, dan tautan permanen, serta cantumkan sumber Orange News.

Orange News: Transluce merilis Predictive Concept Decoders: membaca keadaan internal model dengan asisten interpretabilitas. 18 Desember 2025. https://new.nat6.net/id/news/cmtym4910000erokscfvgip08/

Lihat semua →