Sorties de modèles

Zyphra publie ZAYA1-8B, un modèle MoE entraîné sur un cluster entièrement AMD

Titre original:ZAYA1-8B: Frontier intelligence density, trained on AMD

Résumé IA

Zyphra publie ZAYA1-8B, un modèle MoE avec moins d'un milliard de paramètres actifs, premier modèle à avoir achevé son pré-entraînement, son entraînement intermédiaire et son fine-tuning supervisé entièrement sur un cluster AMD Instinct MI300 (1 024 nœuds, construit avec IBM).

Points clés

  • Zyphra publie ZAYA1-8B,un modèle MoE avec moins d'un milliard de paramètres actifs,premier modèle…
  • son entraînement intermédiaire et son fine-tuning supervisé entièrement sur un cluster AMD…
  • construit avec IBM).

En bref

Publié
Mis à jour
Source
Zyphra Research(网页)
Catégorie
Sorties de modèles
Score IA
67
Lire l'original Lire l'article complet à la source d'origine
Pourquoi c'est important

原文给出活跃参数不足 1B 的 MoE 模型在数学和编码基准上的具体成绩,以及全 AMD 集群训练和 Markovian RSA 测试时计算方法。

Source et droits

Cet article s'appuie sur des titres sélectionnés et des résumés IA issus de l'API publique AIHOT, avec attribution et liens de retour. Les droits sur l'original restent ceux des médias et auteurs d'origine ; ce site ne reproduit pas les textes intégraux.

Article original · Fiche AIHOT

Comment citer

Pour citer cet article, conservez le titre, la date et le lien permanent, et indiquez Orange News comme source.

Orange News : Zyphra publie ZAYA1-8B, un modèle MoE entraîné sur un cluster entièrement AMD. 6. mai 2026. https://new.nat6.net/fr/news/cmtym34cd000fro1n2yr52in4/

Tout voir →