Anthropic 研究:用合成文档微调(SDF)修改 LLM 的信念
原文标题:Modifying LLM Beliefs with Synthetic Document Finetuning
AI 摘要
Anthropic 团队提出合成文档微调(SDF)管线,用 LLM 生成引用目标命题的合成文档并对模型做 SFT,实验显示除最荒谬的错误事实外均可成功插入信念,覆盖 Haiku 3.5、Llama 3.3 70B Instruct、R1 Distill 70B 和 OpenAI GPT 系列。
关键信息
- Anthropic 团队提出合成文档微调(SDF)管线,用 LLM 生成引用目标命题的合成文档并对模型做 SFT,实验显示除最荒谬的错误事实外均可成功插入信念,覆盖 Haiku 3.
- 5、Llama 3.
- 3 70B Instruct、R1 Distill 70B 和 OpenAI GPT 系列
- 原文系统给出 SDF 插入信念的管线、评测套件与去学习和蜜罐两项应用,读者可据此评估该技术的适用边界
速览
- 发布时间
- 更新时间
- 分类
- 论文与研究
- AI 评分
- 61
推荐理由
原文系统给出 SDF 插入信念的管线、评测套件与去学习和蜜罐两项应用,读者可据此评估该技术的适用边界。
相关实体
来源与版权
本文基于 AIHOT 公开 API 的精选标题与 AI 摘要整理,已注明来源并回链;原文版权归原媒体与作者所有,本站不镜像全文。
如何引用
引用本文时请保留标题、日期与永久链接,并注明来源为橙子新闻。
橙子新闻:Anthropic 研究:用合成文档微调(SDF)修改 LLM 的信念。2025年4月24日。https://new.nat6.net/news/idfcvv9q37icuvuc96gi8br95/