Anthropic y otros proponen Activation Oracle: entrenar un LLM para responder en lenguaje natural sobre las activaciones del modelo
Título original:Activation Oracles: Training and Evaluating LLMs as General-Purpose Activation Explainers
Resumen de IA
Anthropic, junto con MATS, Truthful AI y otras instituciones, publica una investigación en la que entrena Activation Oracle (AO) para tomar como entrada las activaciones neuronales de un LLM y responder en lenguaje natural a preguntas arbitrarias sobre ellas.
Puntos clave
- Anthropic
- junto con MATS
- Truthful AI y otras instituciones,publica una investigación en la que entrena Activation Oracle…
Resumen rápido
- Publicado
- Actualizado
- Categoría
- Artículos e investigación
- Puntuación IA
- 60
文章给出 Activation Oracle 的训练方法、审计表现和局限,读者可以据此判断它与机械可解释性方法的互补关系。
Entidades relacionadas
Fuente y derechos
Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.
Cómo citar
Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.
Orange News: Anthropic y otros proponen Activation Oracle: entrenar un LLM para responder en lenguaje natural sobre las activaciones del modelo. 19. diciembre 2025. https://new.nat6.net/es/news/juatzh3r7w91wkicm5ur1zld2/