Articles et recherche

L'entraînement par renforcement de DeepSeek-V4 Flash arrive sur les GPU AMD Instinct MI355X, avec le framework Miles

Titre original:News Bringing DeepSeek-V4 Flash RL Training to AMD Instinct MI355X GPUs with Miles DeepSeek-V4 RL is now supported in Miles on AMD Instinct™ MI355X GPUs with ROCm™! RL requires SGLang rollout and Megatron training to implement the same policy closely enough that token probabilities ... AMD & Miles Team

Résumé IA

L'entraînement par renforcement de DeepSeek-V4 Flash est désormais pris en charge sur les GPU AMD Instinct MI355X via le framework Miles, sur la pile logicielle ROCm. Ce modèle MoE de 284 milliards de paramètres (13 milliards activés par token) nécessite SGLang pour la génération de rollout, Megatron pour la mise à jour de la politique, Miles gérant la boucle asynchrone et la synchronisation des poids. L'équipe a résolu trois défis majeurs : l'alignement des modèles entre SGLang et Megatron, la mise à jour en ligne de l'état de quantification et la stabilité du parallélisme multi-nœuds. La validation de bout en bout a finalement été réalisée sur quatre nœuds de huit GPU : sur plus de 100 étapes d'optimiseur, l'écart de log-probabilité entre entraînement et rollout est resté maîtrisé, la récompense en ligne a continuellement progressé et les scores du benchmark hors ligne AIME-2024 ont augmenté en parallèle.

Points clés

  • L'entraînement par renforcement de DeepSeek-V4 Flash est désormais pris en charge sur les GPU AMD…
  • Ce modèle MoE de 284 milliards de paramètres (13 milliards activés par token) nécessite SGLang…
  • L'équipe a résolu trois défis majeurs: l'alignement des modèles entre SGLang et Megatron,la mise à…
  • La validation de bout en bout a finalement été réalisée sur quatre nœuds de huit GPU: sur plus de…

En bref

Publié
Mis à jour
Source
LMSYS Blog
Catégorie
Articles et recherche
Score IA
61
Lire l'original Lire l'article complet à la source d'origine
Pourquoi c'est important

把 DeepSeek-V4 Flash 的 RL 训练完整搬到 AMD MI355X 上,不是画饼,而是给了实测数据和可跑的配置。想用非 NVIDIA 卡做 RL 训练的,可以照着踩坑。

Entités associées

Source et droits

Cet article s'appuie sur des titres sélectionnés et des résumés IA issus de l'API publique AIHOT, avec attribution et liens de retour. Les droits sur l'original restent ceux des médias et auteurs d'origine ; ce site ne reproduit pas les textes intégraux.

Article original · Fiche AIHOT

Comment citer

Pour citer cet article, conservez le titre, la date et le lien permanent, et indiquez Orange News comme source.

Orange News : L'entraînement par renforcement de DeepSeek-V4 Flash arrive sur les GPU AMD Instinct MI355X, avec le framework Miles. 10. juillet 2026. https://new.nat6.net/fr/news/cmrf7a5kg000wihpr80vvnaxn/

Tout voir →