Investigación de Anthropic: modificar las creencias de un LLM con ajuste fino sobre documentos sintéticos (SDF)
Título original:Modifying LLM Beliefs with Synthetic Document Finetuning
Resumen de IA
El equipo de Anthropic propone un pipeline de ajuste fino sobre documentos sintéticos (SDF) que usa un LLM para generar documentos sintéticos que citan proposiciones objetivo y luego aplica SFT al modelo; los experimentos muestran que logra insertar creencias salvo en los hechos falsos más absurdos, en Haiku 3.5, Llama 3.3 70B Instruct, R1 Distill 70B y la serie GPT de OpenAI.
Puntos clave
- El equipo de Anthropic propone un pipeline de ajuste fino sobre documentos sintéticos (SDF) que…
- los experimentos muestran que logra insertar creencias salvo en los hechos falsos más absurdos,en…
- 5,Llama 3.
- 3 70B Instruct,R1 Distill 70B y la serie GPT de OpenAI.
Resumen rápido
- Publicado
- Actualizado
- Categoría
- Artículos e investigación
- Puntuación IA
- 61
原文系统给出 SDF 插入信念的管线、评测套件与去学习和蜜罐两项应用,读者可据此评估该技术的适用边界。
Entidades relacionadas
Fuente y derechos
Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.
Cómo citar
Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.
Orange News: Investigación de Anthropic: modificar las creencias de un LLM con ajuste fino sobre documentos sintéticos (SDF). 24. abril 2025. https://new.nat6.net/es/news/idfcvv9q37icuvuc96gi8br95/