论文与研究
统一 Radix 缓存:为混合模型前缀缓存构建单一树结构
原文标题:Blog Unified Radix Cache: One Tree for Hybrid Model Prefix Caching Prefix caching reuses KV when requests share the same token prefix. Under full attention, once the KV for a shared prefix is computed, it remains valid as more tokens are appended. A later request wit... Zhangheng Huang, Ke Bao, Yi Zhang, Jialin Ouyang, Sicheng Pan
AI 摘要
LMSYS 团队提出 Unified Radix Cache,用单一 token 键控 radix 拓扑统一管理混合模型的 FULL、SWA 和 MAMBA 组件缓存,各组件独立执行路径、滑动窗口和检查点复用语义。
关键信息
LMSYS 团队提出 Unified Radix Cache,用单一 token 键控 radix 拓扑统一管理混合模型的 FULL
SWA 和 MAMBA 组件缓存,各组件独立执行路径、滑动窗口和检查点复用语义
传统做法需为每种注意力组合实现独立缓存,本文以统一基树和组件钩子将复用规则解耦,SWE-bench上TTFT降低最高16.
速览
发布时间
2026年8月11日
更新时间
2026年11月6日
AI 评分
72
推荐理由
传统做法需为每种注意力组合实现独立缓存,本文以统一基树和组件钩子将复用规则解耦,SWE-bench上TTFT降低最高16.6%。
来源与版权
本文基于 AIHOT 公开 API 的精选标题与 AI 摘要整理,已注明来源并回链;原文版权归原媒体与作者所有,本站不镜像全文。
原文链接
· AIHOT 条目
如何引用
引用本文时请保留标题、日期与永久链接,并注明来源为橙子新闻。
橙子新闻:统一 Radix 缓存:为混合模型前缀缓存构建单一树结构。2026年8月11日。https://new.nat6.net/news/cmsopyoum028vrohd4dgeksz9/
PromptArmor 披露针对 Zoom AI 智能体 ZoomMate 的攻击链:恶意 Skill 或间接提示词注入可让智能体连到攻击者服务器并执行命令,窃取会议记录、消息及连接器数据。攻击在用户点击 stop 或关闭 Zoom 后仍…
PromptArmor:Threat Intelligence 论文与研究 AI 评分 72
2026年8月10日
Google Research 提出知识画像框架,发现前沿 LLM(如 Gemini3、GPT-5)的事实编码接近饱和,但回忆(recall)能力不足,多数事实错误源于“丢钥匙”而非“空货架”。该框架将事实分为编码失败、回忆失败等五类画像…
Google Research:Blog(网页) 论文与研究 AI 评分 66
2026年8月12日
Anthropic 员工让 Claude 尝试攻克黎曼猜想,虽未成功,但一个未发布的研究版 Claude 在相关问题上取得突破:将满足黎曼猜想的 zeta 函数零点比例下界从 41.6% 提升至 67.2%。
Anthropic:Research(发表成果 · 网页) 论文与研究 AI 评分 57
2026年8月10日
Google Research 与 Google DeepMind 推进医疗 AI 系统 AMIE,实现实时临床视频问诊,首次在此场景展示专家级 AI 能力。该系统基于 Gemini 和 Project Astra 构建,可解读视觉与听觉…
Google Blog:AI(RSS) 论文与研究 AI 评分 69
2026年8月12日
Google DeepMind 与 Google Research 开发的 AI 模型 WeatherNext,在 2025 年 10 月飓风 Melissa 登陆前 5 天,以 80% 的置信度预测其将以 5 级飓风强度袭击牙买加。据发…
Ars Technica:AI(RSS) 论文与研究 AI 评分 77
2026年8月8日
Anthropic 研究指出,随着 AI 智能体在共享代码库、市场等社会系统中承担更多任务,智能体间交互量或将超过人机交互。实验显示,45 个协调智能体在 2700 万 token 运行中发现 266 个漏洞,而独立并行方法在 650 万…
Anthropic:Research(发表成果 · 网页) 论文与研究 AI 评分 79
2026年8月13日
上一篇 SGLang 宣布 Day-0 支持 NVIDIA Nemotron 3.5 Lightning
下一篇 NVIDIA 推出 Nemotron 3.5 Lightning,加速本地智能体任务