DeepSeek-V4 Flashの強化学習トレーニングがAMD Instinct MI355X GPUに登場、Milesフレームワークがサポート
原題:News Bringing DeepSeek-V4 Flash RL Training to AMD Instinct MI355X GPUs with Miles DeepSeek-V4 RL is now supported in Miles on AMD Instinct™ MI355X GPUs with ROCm™! RL requires SGLang rollout and Megatron training to implement the same policy closely enough that token probabilities ... AMD & Miles Team
AI 要約
DeepSeek-V4 Flashの強化学習トレーニングが、ROCmソフトウェアスタック上で動作するMilesフレームワークによりAMD Instinct MI355X GPUでサポートされるようになった。2840億パラメータのMoEモデル(トークンあたり130億パラメータを活性化)は、SGLangによるrollout生成、Megatronによるポリシー更新を必要とし、Milesが非同期ループと重み同期を担う。チームはSGLangとMegatron間のモデル整合、量子化状態のオンライン更新、マルチノード並列の安定性という3つの課題を解決し、最終的に4つの8GPUノードでエンドツーエンド検証を完了した。100以上のオプティマイザステップでトレーニングとrolloutの対数確率差は制御可能で、オンライン報酬は持続的に向上し、オフラインのAIME-2024ベンチマークスコアも同様に上昇した。
要点
- DeepSeek-V4 Flashの強化学習トレーニングが、ROCmソフトウェアスタック上で動作するMilesフレームワークによりAMD Instinct MI355X GPUでサポートされるように…
- 2840億パラメータのMoEモデル(トークンあたり130億パラメータを活性化)は、SGLangによるrollout生成、Megatronによるポリシー更新を必要とし、Milesが非同期ループと重み同…
- チームはSGLangとMegatron間のモデル整合、量子化状態のオンライン更新、マルチノード並列の安定性という3つの課題を解決し、最終的に4つの8GPUノードでエンドツーエンド検証を完了した。
- 100以上のオプティマイザステップでトレーニングとrolloutの対数確率差は制御可能で、オンライン報酬は持続的に向上し、オフラインのAIME-2024ベンチマークスコアも同様に上昇した
概要
- 公開日時
- 更新日時
- 出典
- LMSYS Blog
- カテゴリ
- 論文・研究
- AI スコア
- 61
把 DeepSeek-V4 Flash 的 RL 训练完整搬到 AMD MI355X 上,不是画饼,而是给了实测数据和可跑的配置。想用非 NVIDIA 卡做 RL 训练的,可以照着踩坑。
関連エンティティ
出典と著作権
本記事は AIHOT の公開 API が提供する厳選タイトルと AI 要約に基づいており、出典の明記と元記事へのリンクを行っています。原文の著作権は元の媒体と著者に帰属し、当サイトは全文を転載しません。
引用方法
本記事を引用する際は、タイトル・日付・パーマリンクを保持し、出典をOrange Newsと明記してください。
Orange News:DeepSeek-V4 Flashの強化学習トレーニングがAMD Instinct MI355X GPUに登場、Milesフレームワークがサポート。2026年7月10日。https://new.nat6.net/ja/news/cmrf7a5kg000wihpr80vvnaxn/