论文与研究

Anthropic 研究:用合成文档微调(SDF)修改 LLM 的信念

原文标题:Modifying LLM Beliefs with Synthetic Document Finetuning

AI 摘要

Anthropic 团队提出合成文档微调(SDF)管线,用 LLM 生成引用目标命题的合成文档并对模型做 SFT,实验显示除最荒谬的错误事实外均可成功插入信念,覆盖 Haiku 3.5、Llama 3.3 70B Instruct、R1 Distill 70B 和 OpenAI GPT 系列。

关键信息

  • Anthropic 团队提出合成文档微调(SDF)管线,用 LLM 生成引用目标命题的合成文档并对模型做 SFT,实验显示除最荒谬的错误事实外均可成功插入信念,覆盖 Haiku 3.
  • 5、Llama 3.
  • 3 70B Instruct、R1 Distill 70B 和 OpenAI GPT 系列
  • 原文系统给出 SDF 插入信念的管线、评测套件与去学习和蜜罐两项应用,读者可据此评估该技术的适用边界

速览

发布时间
更新时间
来源
Anthropic:Alignment Science Blog(网页)
分类
论文与研究
AI 评分
61
阅读原文 前往信息源阅读完整正文
推荐理由

原文系统给出 SDF 插入信念的管线、评测套件与去学习和蜜罐两项应用,读者可据此评估该技术的适用边界。

相关实体

来源与版权

本文基于 AIHOT 公开 API 的精选标题与 AI 摘要整理,已注明来源并回链;原文版权归原媒体与作者所有,本站不镜像全文。

原文链接 · AIHOT 条目

如何引用

引用本文时请保留标题、日期与永久链接,并注明来源为橙子新闻。

橙子新闻:Anthropic 研究:用合成文档微调(SDF)修改 LLM 的信念。2025年4月24日。https://new.nat6.net/news/idfcvv9q37icuvuc96gi8br95/

查看全部 →