Zyphra publie ZAYA1-8B, un modèle MoE entraîné sur un cluster entièrement AMD
Titre original:ZAYA1-8B: Frontier intelligence density, trained on AMD
Résumé IA
Zyphra publie ZAYA1-8B, un modèle MoE avec moins d'un milliard de paramètres actifs, premier modèle à avoir achevé son pré-entraînement, son entraînement intermédiaire et son fine-tuning supervisé entièrement sur un cluster AMD Instinct MI300 (1 024 nœuds, construit avec IBM).
Points clés
- Zyphra publie ZAYA1-8B,un modèle MoE avec moins d'un milliard de paramètres actifs,premier modèle…
- son entraînement intermédiaire et son fine-tuning supervisé entièrement sur un cluster AMD…
- construit avec IBM).
En bref
- Publié
- Mis à jour
- Source
- Zyphra Research(网页)
- Catégorie
- Sorties de modèles
- Score IA
- 67
原文给出活跃参数不足 1B 的 MoE 模型在数学和编码基准上的具体成绩,以及全 AMD 集群训练和 Markovian RSA 测试时计算方法。
Source et droits
Cet article s'appuie sur des titres sélectionnés et des résumés IA issus de l'API publique AIHOT, avec attribution et liens de retour. Les droits sur l'original restent ceux des médias et auteurs d'origine ; ce site ne reproduit pas les textes intégraux.
Comment citer
Pour citer cet article, conservez le titre, la date et le lien permanent, et indiquez Orange News comme source.
Orange News : Zyphra publie ZAYA1-8B, un modèle MoE entraîné sur un cluster entièrement AMD. 6. mai 2026. https://new.nat6.net/fr/news/cmtym34cd000fro1n2yr52in4/