Papers & Forschung

DeepSeek-V4 Flash: Reinforcement-Learning-Training auf AMD Instinct MI355X GPU mit Miles-Framework

Originaltitel:News Bringing DeepSeek-V4 Flash RL Training to AMD Instinct MI355X GPUs with Miles DeepSeek-V4 RL is now supported in Miles on AMD Instinct™ MI355X GPUs with ROCm™! RL requires SGLang rollout and Megatron training to implement the same policy closely enough that token probabilities ... AMD & Miles Team

KI-Zusammenfassung

Das Reinforcement-Learning-Training von DeepSeek-V4 Flash wird jetzt auf AMD Instinct MI355X GPUs über das Miles-Framework und den ROCm-Software-Stack unterstützt. Das MoE-Modell mit 284 Milliarden Parametern (13 Milliarden aktive Parameter pro Token) benötigt SGLang für die Rollout-Generierung und Megatron für Policy-Updates; Miles übernimmt die asynchrone Schleife und die Gewichtssynchronisierung. Das Team löste drei zentrale Herausforderungen: Modellausrichtung zwischen SGLang und Megatron, Online-Aktualisierung des Quantisierungszustands und Stabilität der Multi-Node-Parallelisierung. Schließlich wurde die Ende-zu-Ende-Validierung auf vier Acht-GPU-Knoten abgeschlossen: Über mehr als 100 Optimiererschritte blieb die Log-Wahrscheinlichkeitsdifferenz zwischen Training und Rollout kontrollierbar, der Online-Reward stieg kontinuierlich, und auch die Offline-Benchmark-Werte bei AIME-2024 verbesserten sich.

Kernpunkte

  • Das Reinforcement-Learning-Training von DeepSeek-V4 Flash wird jetzt auf AMD Instinct MI355X GPUs…
  • Das MoE-Modell mit 284 Milliarden Parametern (13 Milliarden aktive Parameter pro Token) benötigt…
  • Miles übernimmt die asynchrone Schleife und die Gewichtssynchronisierung.
  • Das Team löste drei zentrale Herausforderungen: Modellausrichtung zwischen SGLang und…
  • Schließlich wurde die Ende-zu-Ende-Validierung auf vier Acht-GPU-Knoten abgeschlossen: Über mehr…

Auf einen Blick

Veröffentlicht
Aktualisiert
Quelle
LMSYS Blog
Kategorie
Papers & Forschung
KI-Bewertung
61
Original lesen Den vollständigen Artikel bei der Originalquelle lesen
Warum es wichtig ist

把 DeepSeek-V4 Flash 的 RL 训练完整搬到 AMD MI355X 上,不是画饼,而是给了实测数据和可跑的配置。想用非 NVIDIA 卡做 RL 训练的,可以照着踩坑。

Verwandte Entitäten

Quelle & Urheberrecht

Dieser Artikel basiert auf kuratierten Titeln und KI-Zusammenfassungen der öffentlichen AIHOT-API, mit Quellenangabe und Rückverlinkung. Das Urheberrecht am Original liegt bei den ursprünglichen Medien und Autoren; diese Seite spiegelt keine Volltexte.

Originalartikel · AIHOT-Eintrag

Zitierhinweis

Beim Zitieren dieses Artikels bitte Titel, Datum und Permalink beibehalten und Orange News als Quelle angeben.

Orange News: DeepSeek-V4 Flash: Reinforcement-Learning-Training auf AMD Instinct MI355X GPU mit Miles-Framework. 10. Juli 2026. https://new.nat6.net/de/news/cmrf7a5kg000wihpr80vvnaxn/

Alle ansehen →