其他

角色如何改变AI的回答?——Anthropic可解释性团队2025年8月电路分析案例

原文标题:Circuits Updates — August 2025

AI 摘要

Anthropic可解释性团队在2025年8月的研究更新中,通过一个电路分析案例展示了模型“角色扮演”如何影响其回答。研究使用Claude Haiku 3.5模型,当系统提示将其设定为“学龄前儿童”并询问“27的平方根”时,模型会以“我不知道!”回应并提议玩耍;而在默认或“研究生”角色下则能给出正确答案。团队通过归因图识别出一个关键子电路:模型能将“学龄前学生”关联到“扮演儿童”,从而激活“我不知道”特征。研究还发现,问题难度会调节此效应,并且通过特征干预能显著改变模型行为。这引发了对其他角色运作机制及预训练角色与模型表达能力关系的后续思考。

关键信息

  • Anthropic可解释性团队在2025年8月的研究更新中,通过一个电路分析案例展示了模型“角色扮演”如何影响其回答。
  • 研究使用Claude Haiku 3.
  • 5模型,当系统提示将其设定为“学龄前儿童”并询问“27的平方根”时,模型会以“我不知道!
  • ”回应并提议玩耍
  • 而在默认或“研究生”角色下则能给出正确答案。

速览

发布时间
更新时间
来源
Anthropic:Transformer Circuits(可解释性研究)
分类
其他
AI 评分
73
阅读原文 前往信息源阅读完整正文
推荐理由

揭示模型角色扮演的内部机制,为可解释性研究提供新视角。

相关实体

来源与版权

本文基于 AIHOT 公开 API 的精选标题与 AI 摘要整理,已注明来源并回链;原文版权归原媒体与作者所有,本站不镜像全文。

原文链接 · AIHOT 条目

如何引用

引用本文时请保留标题、日期与永久链接,并注明来源为橙子新闻。

橙子新闻:角色如何改变AI的回答?——Anthropic可解释性团队2025年8月电路分析案例。2025年8月15日。https://new.nat6.net/news/cmoegbh73006gslxx7jmd5474/

查看全部 →