Transluce, 해석 가능성 도우미로 모델 내부 상태 읽는 Predictive Concept Decoders 공개
원제목:Predictive Concept Decoders
AI 요약
Transluce가 Predictive Concept Decoders(PCD)를 제안했다. 해석 가능성 도우미를 훈련해 모델 내부 상태를 사람이 읽을 수 있는 개념 목록으로 변환한 뒤 이를 바탕으로 모델 행동 관련 질문에 답한다. PCD는 인코더와 디코더로 구성되며 탈옥, 비밀 프롬프트, 개념 주입 세 가지 시나리오에서 모델이 스스로 보고하지 않는 정보를 드러낼 수 있고 성능은 훈련 데이터 확장에 따라 향상된다. 논문은 arXiv 2512.15712, decoder.transluce.org에서 체험할 수 있다.
핵심 정보
- Transluce가 Predictive Concept Decoders(PCD)를 제안했다.
- 해석 가능성 도우미를 훈련해 모델 내부 상태를 사람이 읽을 수 있는 개념 목록으로 변환한 뒤 이를 바탕으로 모델 행동 관련 질문에 답한다.
- PCD는 인코더와 디코더로 구성되며 탈옥,비밀 프롬프트,개념 주입 세 가지 시나리오에서 모델이 스스로 보고하지 않는 정보를 드러낼 수 있고 성능은 훈련 데이터 확장에 따라…
- 논문은 arXiv 2512.
- 15712,decoder.
한눈에 보기
- 게시
- 업데이트
- 카테고리
- 논문 및 연구
- AI 점수
- 60
추천 이유
把可解释性建模为预测问题来端到端训练,并展示能揭示模型未言明信息的实验场景,方法思路可借鉴。
출처 및 저작권
이 기사는 AIHOT 공개 API가 제공하는 선별 제목과 AI 요약을 바탕으로 하며, 출처를 밝히고 원문으로 연결합니다. 원문 저작권은 원 미디어와 저자에게 있으며, 본 사이트는 전문을 전재하지 않습니다.
인용 방법
본문을 인용할 때는 제목, 날짜, 영구 링크를 유지하고 출처를 Orange News(으)로 표기해 주세요.
Orange News: Transluce, 해석 가능성 도우미로 모델 내부 상태 읽는 Predictive Concept Decoders 공개. 2025년 12월 18일. https://new.nat6.net/ko/news/cmtym4910000erokscfvgip08/