モデル公開
次世代投機的デコーディング:DFlashとSpec V2
原題:Blog The next generation of speculative decoding: DFlash and Spec V2 Using Modal and Z Lab's DFlash speculative decoding models with SGLang’s newly default Spec V2 engine, you can achieve state-of-the-art latencies for LLM inference serving. Our new, jointly-released D... Z Lab, Modal, and SGLang Teams
AI 要約
Z Lab、Modal、SGLangチームは共同でDFlash投機的デコーディングモデルとSGLangのデフォルトSpec V2エンジンを発表した。DFlashはブロック拡散とKV注入によりdraft tokenをブロック単位で並列生成し、Qwen 3.5 397B-A17B(BF16)のHumanEvalデータセット上、同時実行数1でスループットがベースラインの4.3倍に達した。
要点
Z Lab、Modal、SGLangチームは共同でDFlash投機的デコーディングモデルとSGLangのデフォルトSpec V2エンジンを発表した。
DFlashはブロック拡散とKV注入によりdraft tokenをブロック単位で並列生成し、Qwen 3.
5 397B-A17B(BF16)のHumanEvalデータセット上、同時実行数1でスループットがベースラインの4.
3倍に達した
概要
公開日時
2026年6月15日
更新日時
2026年11月6日
AI スコア
67
おすすめの理由
DFlash 用并行起草和 KV 注入实现了实测 4.3 倍吞吐,再加上 SGLang Spec V2 引擎优化,推理加速不再是纸上谈兵。做 LLM 部署和推理服务的人,可以直接用这个组合试试。
出典と著作権
本記事は AIHOT の公開 API が提供する厳選タイトルと AI 要約に基づいており、出典の明記と元記事へのリンクを行っています。原文の著作権は元の媒体と著者に帰属し、当サイトは全文を転載しません。
原文記事
· AIHOT 記事
引用方法
本記事を引用する際は、タイトル・日付・パーマリンクを保持し、出典をOrange Newsと明記してください。
Orange News:次世代投機的デコーディング:DFlashとSpec V2。2026年6月15日。https://new.nat6.net/ja/news/cmqfhhoq001hksl2aw53w2wz8/
Orange Relay(pro.nat6.net)は高品質な AI API 中継サービスです。リーズナブルな価格、安定した品質、Claude・GPT・Gemini など主要モデルに幅広く対応しています。
Orange Relay を見る
Zhipuはこれまでで最も強力なオープンソースモデルGLM-5.2を発表した。実用的な1Mコンテキストをサポートし、長期的タスクでも引き続きリードする。また、同社最強の国産Codingモデルでもある。今夜5:21、GLM-5.2はGLM…
公众号:智谱(GLM) モデル公開 AI スコア 70
2026年6月13日
Kimi K2.7 Code高速版が登場した。通常版と同じモデルで、出力速度は約5-6倍、一般的なコーディング場面で約180 Token/s、短いコンテキストでは260 Token/sに達する。API価格は通常版の2倍。
公众号:月之暗面(Kimi) モデル公開 AI スコア 62
2026年6月15日
GLM-5.2は智譜がこれまでに開発した中で最も能力の高いオープンソースモデルで、実用的な1Mコンテキストに対応し、長距離タスクでも引き続き優位性を維持している。智譜はこれを最強の国産Codingモデルと称している。今夜5:21からGLM…
公众号:智谱(GLM) モデル公開 AI スコア 70
2026年6月13日
xAIはGrok Imagine Video 1.5をプレビューから全面提供へ移行し、Imagine APIで`grok-imagine-video-1.5`を提供、grok.com/imagineおよびiOS/AndroidアプリでVi…
xAI:News(网页) モデル公開 AI スコア 73
2026年6月16日
MiniMax M3がリリースされ、最先端のコーディングとエージェント能力、ネイティブな画像・動画入力とコンピュータ使用、1M-tokenコンテキストを備える。中核にはMSAスパースアテンションを採用:各queryが128-tokenのK…
X:MiniMax (@MiniMax_AI) モデル公開 AI スコア 82
2026年6月13日
Qwen-RobotManipは通義千問がQwen-VLに基づいて開発した視覚-言語-行動(VLA)基盤モデルで、表現、運動、行動の3次元をカバーする統一アライメントフレームワークを導入する。オープンソースのロボットデータセットと人間のデ…
Qwen:Blog Retrieval(API) モデル公開 AI スコア 72
2026年6月16日
前の記事 ホワイトハウスのAI規制判断はOpenAIとAmazonを優遇していると指摘
次の記事 バークレーRDI、Agents' Last Examベンチマークを発表