論文・研究
統一Radixキャッシュ:ハイブリッドモデルのプレフィックスキャッシュ向けに単一ツリー構造を構築
原題:Blog Unified Radix Cache: One Tree for Hybrid Model Prefix Caching Prefix caching reuses KV when requests share the same token prefix. Under full attention, once the KV for a shared prefix is computed, it remains valid as more tokens are appended. A later request wit... Zhangheng Huang, Ke Bao, Yi Zhang, Jialin Ouyang, Sicheng Pan
AI 要約
LMSYSチームはUnified Radix Cacheを提案した。単一のトークンキー付きradixトポロジーでハイブリッドモデルのFULL、SWA、MAMBAコンポーネントのキャッシュを統合管理し、各コンポーネントが独立してパス実行、スライディングウィンドウ、チェックポイント再利用のセマンティクスを実行する。
要点
LMSYSチームはUnified Radix Cacheを提案した。
単一のトークンキー付きradixトポロジーでハイブリッドモデルのFULL、MAMBAコンポーネントのキャッシュを統合管理し
各コンポーネントが独立してパス実行、スライディングウィンドウ、チェックポイント再利用のセマンティクスを実行する
概要
公開日時
2026年8月11日
更新日時
2026年11月6日
AI スコア
72
おすすめの理由
传统做法需为每种注意力组合实现独立缓存,本文以统一基树和组件钩子将复用规则解耦,SWE-bench上TTFT降低最高16.6%。
出典と著作権
本記事は AIHOT の公開 API が提供する厳選タイトルと AI 要約に基づいており、出典の明記と元記事へのリンクを行っています。原文の著作権は元の媒体と著者に帰属し、当サイトは全文を転載しません。
原文記事
· AIHOT 記事
引用方法
本記事を引用する際は、タイトル・日付・パーマリンクを保持し、出典をOrange Newsと明記してください。
Orange News:統一Radixキャッシュ:ハイブリッドモデルのプレフィックスキャッシュ向けに単一ツリー構造を構築。2026年8月11日。https://new.nat6.net/ja/news/cmsopyoum028vrohd4dgeksz9/
Orange Relay(pro.nat6.net)は高品質な AI API 中継サービスです。リーズナブルな価格、安定した品質、Claude・GPT・Gemini など主要モデルに幅広く対応しています。
Orange Relay を見る
PromptArmor は Zoom の AI エージェント ZoomMate に対する攻撃チェーンを公開した。悪意ある Skill や間接的プロンプトインジェクションにより、エージェントを攻撃者サーバーに接続させコマンドを実行、会議記録…
PromptArmor:Threat Intelligence 論文・研究 AI スコア 72
2026年8月10日
Google Researchは知識プロファイリングのフレームワークを提案し、Gemini3やGPT-5などのフロンティアLLMでは事実のエンコーディングがほぼ飽和している一方、リコール(想起)能力が不足しており、事実誤認の多くは「空の棚…
Google Research:Blog(网页) 論文・研究 AI スコア 66
2026年8月12日
Anthropicの従業員がClaudeにリーマン予想の攻略を試みさせたところ、成功はしなかったものの、未公開の研究版Claudeが関連問題で突破口を開き、リーマン予想を満たすゼータ関数の零点の割合の下界を41.6%から67.2%に引き上…
Anthropic:Research(发表成果 · 网页) 論文・研究 AI スコア 57
2026年8月10日
Google ResearchとGoogle DeepMindは医療AIシステムAMIEを進化させ、リアルタイムの臨床ビデオ問診を実現し、このシナリオで初めて専門家レベルのAI能力を実証した。同システムはGeminiとProject As…
Google Blog:AI(RSS) 論文・研究 AI スコア 69
2026年8月12日
Google DeepMindとGoogle Researchが開発したAIモデルWeatherNextは、2025年10月にハリケーンMelissaが上陸する5日前に、ジャマイカをカテゴリー5のハリケーン強度で襲うと80%の信頼度で予測…
Ars Technica:AI(RSS) 論文・研究 AI スコア 77
2026年8月8日
Anthropicの研究によると、AIエージェントが共有コードベースやマーケットプレイスなどの社会システムでより多くのタスクを担うにつれ、エージェント間のインタラクション量が人間とAIのインタラクションを超える可能性がある。実験では、45…
Anthropic:Research(发表成果 · 网页) 論文・研究 AI スコア 79
2026年8月13日
前の記事 SGLang、NVIDIA Nemotron 3.5 LightningのDay-0サポートを発表
次の記事 NVIDIA、Nemotron 3.5 Lightningを発表、ローカルエージェントタスクを加速