製品とアプリ
HPC-Ops × SGLang:Tencent Hunyuan、高性能Attention、Router GEMM、MoE演算子をオープンソース化
原題:Blog HPC-Ops × SGLang: High-Performance Attention, Router GEMM, and MoE Kernels from Tencent Hunyuan HPC-Ops is an open-source operator library for LLM inference, deployed in Tencent's large-scale production serving. Its core operators, including Dynamic Attention and Fused MoE, play a critical role ... Tencent Hunyuan AI Infra and the SGLang Team
AI 要約
Tencent Hunyuanのオープンソース演算子ライブラリHPC-OpsがSGLangのメインブランチに統合された。そのDynamic AttentionとFused MoEはHy3モデル上でTPOTを最大48.8%削減する。
概要
公開日時
2026年8月7日
更新日時
2026年11月6日
AI スコア
76
おすすめの理由
HPC-Ops 集成到 SGLang,带来生产验证的负载均衡 Attention 和精度感知 Router GEMM,实测 Hy3 TPOT 降幅最高 48.8%,为 MoE 低延迟服务提供了可直接使用的开源优化。
出典と著作権
本記事は AIHOT の公開 API が提供する厳選タイトルと AI 要約に基づいており、出典の明記と元記事へのリンクを行っています。原文の著作権は元の媒体と著者に帰属し、当サイトは全文を転載しません。
原文記事
· AIHOT 記事
引用方法
本記事を引用する際は、タイトル・日付・パーマリンクを保持し、出典をOrange Newsと明記してください。
Orange News:HPC-Ops × SGLang:Tencent Hunyuan、高性能Attention、Router GEMM、MoE演算子をオープンソース化。2026年8月7日。https://new.nat6.net/ja/news/cmsj8rfkl02ruroo5uvyqiqiq/
Orange Relay(pro.nat6.net)は高品質な AI API 中継サービスです。リーズナブルな価格、安定した品質、Claude・GPT・Gemini など主要モデルに幅広く対応しています。
Orange Relay を見る
アリババの千問が動画生成モデル Wan3.0 を全網で初めて公測開始した。生成時間、カメラワーク、キャラクターのリアルさ、一貫性の維持などの面で全面的にアップグレード。30 秒のワンカット動画を安定して直接生成でき、監督級のカメラワークと…
公众号:千问APP(阿里) 製品とアプリ AI スコア 64
2026年8月6日
千問は本日、複数の新機能を公開し、最新のフラッグシップモデル Qwen3.8-MAX に対応した。「思考研究」は従来の「深層思考」をアップグレードし、複雑な推論とツール呼び出しを強化。「定期タスク」は実行時間を事前に設定し、業界ブリーフィ…
公众号:千问APP(阿里) 製品とアプリ AI スコア 67
2026年8月7日
Google マップは Ask Maps の新たなアップグレードを発表した。エージェント機能を追加し、ユーザーの代わりに料理の注文を実行できるほか、食事制限や現在地、保存済みの場所などを総合的に考慮する。ユーザーは会話を通じて内装スタイル…
IT之家·人工智能 製品とアプリ AI スコア 71
2026年8月6日
Anthropic は Claude Fable 5 のバイオセーフティ保護メカニズムを更新し、生物関連のクエリにおける「フォールバック」の回数を約 85% 削減した。これにより、日常的な健康や教育に関する問題で、システムがより弱いモデル…
Anthropic:Newsroom(网页) 製品とアプリ AI スコア 66
2026年8月7日
Agent Plugins 1.0.0 は Google、Amazon、Microsoft などが支持する中立的なカタログ仕様で、Agent Skills と MCP サーバーを単一のポータブルなユニットにパッケージ化する。標準化された…
Google Developers Blog(RSS) 製品とアプリ AI スコア 75
2026年8月6日
Anthropic は Claude Fable 5 のバイオセーフティガードレールを更新し、生物関連のフォールバックを約 85% 削減したことで、より広範な日常の健康や教育の問題に対応できるようになった。Fable は引き続き、ウイルス…
X:Claude (@claudeai) 製品とアプリ AI スコア 73
2026年8月7日
前の記事 GitHub Copilot アプリにおけるスラッシュコマンドの使用ガイド
次の記事 Ant GroupのBailing、Ling-3.0-flashをオープンソース化 総パラメータ124BのMoEハイブリッド推論モデル