モデル公開

Moonshot、2.8TパラメータのオープンソースマルチモーダルモデルKimi K3を発表、Modalが公開当日に460 tokens/sの推論を実現

原題:Kimi K3 by Moonshot now available on Modal

AI 要約

MoonshotはKimi K3を発表。総パラメータ2.8T、トークンあたり16/896のエキスパートを活性化し、1Mトークンコンテキストウィンドウとネイティブビジョンをサポート。ModalはMoonshot、vLLMと協力してDay 0サポートを提供し、カスタムのDFlash投機的デコーディングモデルによりエージェント負荷の対話速度を100から460 tokens/sへ、スループットを800kから1.5M TPM/GPUへ向上させた。

要点

  • MoonshotはKimi K3を発表。
  • 総パラメータ2.
  • 8T、トークンあたり16/896のエキスパートを活性化し、1Mトークンコンテキストウィンドウとネイティブビジョンをサポート。
  • ModalはMoonshot、vLLMと協力してDay 0サポートを提供し、カスタムのDFlash投機的デコーディングモデルによりエージェント負荷の対話速度を100から460 tokens/sへ、ス…
  • 5M TPM/GPUへ向上させた

概要

公開日時
更新日時
出典
Modal 官方工程博客(RSS)
カテゴリ
モデル公開
AI スコア
78
原文を読む 情報源で全文を読む
おすすめの理由

Modal 作为发布当天的托管方,给出了 K3 架构细节与推理加速数据,读者可据此评估运行这级开源模型的工程门槛。

関連エンティティ

出典と著作権

本記事は AIHOT の公開 API が提供する厳選タイトルと AI 要約に基づいており、出典の明記と元記事へのリンクを行っています。原文の著作権は元の媒体と著者に帰属し、当サイトは全文を転載しません。

原文記事 · AIHOT 記事

引用方法

本記事を引用する際は、タイトル・日付・パーマリンクを保持し、出典をOrange Newsと明記してください。

Orange News:Moonshot、2.8TパラメータのオープンソースマルチモーダルモデルKimi K3を発表、Modalが公開当日に460 tokens/sの推論を実現。2026年7月27日。https://new.nat6.net/ja/news/cmtym269d0005rofaar263rp8/

すべて見る →