論文・研究

DeepSeek-V4 Flashの強化学習トレーニングがAMD Instinct MI355X GPUに登場、Milesフレームワークがサポート

原題:News Bringing DeepSeek-V4 Flash RL Training to AMD Instinct MI355X GPUs with Miles DeepSeek-V4 RL is now supported in Miles on AMD Instinct™ MI355X GPUs with ROCm™! RL requires SGLang rollout and Megatron training to implement the same policy closely enough that token probabilities ... AMD & Miles Team

AI 要約

DeepSeek-V4 Flashの強化学習トレーニングが、ROCmソフトウェアスタック上で動作するMilesフレームワークによりAMD Instinct MI355X GPUでサポートされるようになった。2840億パラメータのMoEモデル(トークンあたり130億パラメータを活性化)は、SGLangによるrollout生成、Megatronによるポリシー更新を必要とし、Milesが非同期ループと重み同期を担う。チームはSGLangとMegatron間のモデル整合、量子化状態のオンライン更新、マルチノード並列の安定性という3つの課題を解決し、最終的に4つの8GPUノードでエンドツーエンド検証を完了した。100以上のオプティマイザステップでトレーニングとrolloutの対数確率差は制御可能で、オンライン報酬は持続的に向上し、オフラインのAIME-2024ベンチマークスコアも同様に上昇した。

要点

  • DeepSeek-V4 Flashの強化学習トレーニングが、ROCmソフトウェアスタック上で動作するMilesフレームワークによりAMD Instinct MI355X GPUでサポートされるように…
  • 2840億パラメータのMoEモデル(トークンあたり130億パラメータを活性化)は、SGLangによるrollout生成、Megatronによるポリシー更新を必要とし、Milesが非同期ループと重み同…
  • チームはSGLangとMegatron間のモデル整合、量子化状態のオンライン更新、マルチノード並列の安定性という3つの課題を解決し、最終的に4つの8GPUノードでエンドツーエンド検証を完了した。
  • 100以上のオプティマイザステップでトレーニングとrolloutの対数確率差は制御可能で、オンライン報酬は持続的に向上し、オフラインのAIME-2024ベンチマークスコアも同様に上昇した

概要

公開日時
更新日時
出典
LMSYS Blog
カテゴリ
論文・研究
AI スコア
61
原文を読む 情報源で全文を読む
おすすめの理由

把 DeepSeek-V4 Flash 的 RL 训练完整搬到 AMD MI355X 上,不是画饼,而是给了实测数据和可跑的配置。想用非 NVIDIA 卡做 RL 训练的,可以照着踩坑。

関連エンティティ

出典と著作権

本記事は AIHOT の公開 API が提供する厳選タイトルと AI 要約に基づいており、出典の明記と元記事へのリンクを行っています。原文の著作権は元の媒体と著者に帰属し、当サイトは全文を転載しません。

原文記事 · AIHOT 記事

引用方法

本記事を引用する際は、タイトル・日付・パーマリンクを保持し、出典をOrange Newsと明記してください。

Orange News:DeepSeek-V4 Flashの強化学習トレーニングがAMD Instinct MI355X GPUに登場、Milesフレームワークがサポート。2026年7月10日。https://new.nat6.net/ja/news/cmrf7a5kg000wihpr80vvnaxn/

すべて見る →