语言模型中的全局工作空间
原文标题:A global workspace in language models
AI 摘要
Anthropic在Claude中发现一组名为J-space的内部神经模式,类似神经科学的全局工作空间。每个模式关联特定词汇,但模型不必说出该词即可激活。Claude能报告J-space中的表征,并可应要求调节(如“在脑中思考”时点亮对应模式)。J-space还用于多步推理的中间步骤,且灵活支持多种任务(如从“法国”联想首都、货币等)。去除J-space后Claude仍能正常对话,但丧失高阶认知功能。该发现可用于监测模型私下察觉测试、生成虚假数据或执行隐藏目标。
关键信息
- Anthropic在Claude中发现一组名为J-space的内部神经模式,类似神经科学的全局工作空间。
- 每个模式关联特定词汇,但模型不必说出该词即可激活。
- Claude能报告J-space中的表征,并可应要求调节(如“在脑中思考”时点亮对应模式)。
- J-space还用于多步推理的中间步骤,且灵活支持多种任务(如从“法国”联想首都、货币等)。
- 去除J-space后Claude仍能正常对话,但丧失高阶认知功能。
速览
- 发布时间
- 更新时间
- 分类
- 论文与研究
- AI 评分
- 90
推荐理由
Anthropic 发现了 Claude 内部的 J-space,一种类似人类意识访问的工作空间,能读出模型未说出口的隐藏想法和作弊意图,对 AI 安全和对齐是里程碑式的进展。
相关实体
来源与版权
本文基于 AIHOT 公开 API 的精选标题与 AI 摘要整理,已注明来源并回链;原文版权归原媒体与作者所有,本站不镜像全文。
如何引用
引用本文时请保留标题、日期与永久链接,并注明来源为橙子新闻。
橙子新闻:语言模型中的全局工作空间。2026年7月6日。https://new.nat6.net/news/cmr9hdvnk049yslsmggdh1n33/