其他

Circuits 更新 — 2025年10月

原文标题:Circuits Updates — October 2025

AI 摘要

Anthropic可解释性团队分享了多项研究进展。研究发现,从Haiku 3.5到Sonnet 4.5等模型中存在跨模态视觉特征,能够识别ASCII艺术和SVG代码中编码的语义概念,如眼睛、嘴巴、狗、猫等。这些特征依赖于视觉描绘的上下文环境,例如,SVG圆形元素只有在位于激活“面部”特征的更大结构中时才会激活“眼睛”特征。在生成过程中对部分特征进行引导,可以对应修改文本艺术的语义,例如将ASCII表情从皱眉转为微笑,或为SVG面部添加皱纹。研究还发现模型存在类似“人脸幻想”的倾向,会将形状解释为动物绘图的组成部分。这些特征对人类手绘的SVG同样有效。

关键信息

  • Anthropic可解释性团队分享了多项研究进展。
  • 研究发现,从Haiku 3.
  • 5到Sonnet 4.
  • 5等模型中存在跨模态视觉特征,能够识别ASCII艺术和SVG代码中编码的语义概念,如眼睛、嘴巴、狗、猫等。
  • 这些特征依赖于视觉描绘的上下文环境,例如,SVG圆形元素只有在位于激活“面部”特征的更大结构中时才会激活“眼睛”特征。

速览

发布时间
更新时间
来源
Anthropic:Transformer Circuits(可解释性研究)
分类
其他
AI 评分
83
阅读原文 前往信息源阅读完整正文
推荐理由

为AI可解释性研究提供新实验方法,启发跨模态模型设计。

相关实体

来源与版权

本文基于 AIHOT 公开 API 的精选标题与 AI 摘要整理,已注明来源并回链;原文版权归原媒体与作者所有,本站不镜像全文。

原文链接 · AIHOT 条目

如何引用

引用本文时请保留标题、日期与永久链接,并注明来源为橙子新闻。

橙子新闻:Circuits 更新 — 2025年10月。2025年10月15日。https://new.nat6.net/news/cmoegbh73006dslxxjjzsxq3s/

查看全部 →
  • Claude Code 发布网页版

    Anthropic 推出网页版 Claude Code,以研究预览形式向 Pro、Max 及企业用户开放。用户可直接在浏览器中分配编码任务,无需本地终端,支持并行处理多个 GitHub 仓库的开发工作,并自动创建 PR 和变更摘要。该服务…

    Claude:Blog(网页)其他

  • AI基建扩张观察

    AI基础设施建设正面临晶圆厂资本支出过剩的风险,同时算力扩张带来每周1吉瓦的能源消耗压力。文章指出,在长周期基础设施竞赛中,中国凭借产业链整合优势占据有利地位。分析涵盖了AI基建中的产能过剩隐忧、电力瓶颈挑战,以及地缘政治背景下的技术长跑…

    Dwarkesh Patel:Podcast & Blog(RSS)其他

  • Gemini 2.5 Computer Use 模型发布

    Gemini 2.5 Computer Use 模型基于 Gemini 2.5 Pro 构建,专门用于驱动能与用户界面交互的 agent,现已通过 API 以预览版形式提供。

    Google DeepMind:Blog(RSS)其他