Modellveröffentlichungen

Zyphra veröffentlicht ZAYA1-8B: MoE-Modell, trainiert auf reinem AMD-Cluster

Originaltitel:ZAYA1-8B: Frontier intelligence density, trained on AMD

KI-Zusammenfassung

Zyphra veröffentlicht ZAYA1-8B, ein MoE-Modell mit weniger als 1 Milliarde aktiven Parametern. Es ist das erste Modell, dessen Vortraining, Midtraining und überwachtes Feintuning vollständig auf einem AMD-Instinct-MI300-Cluster (1.024 Knoten, in Zusammenarbeit mit IBM gebaut) abgeschlossen wurden.

Kernpunkte

  • Zyphra veröffentlicht ZAYA1-8B,ein MoE-Modell mit weniger als 1 Milliarde aktiven Parametern.
  • Es ist das erste Modell,dessen Vortraining,Midtraining und überwachtes Feintuning vollständig auf…
  • 024 Knoten,in Zusammenarbeit mit IBM gebaut) abgeschlossen wurden.

Auf einen Blick

Veröffentlicht
Aktualisiert
Quelle
Zyphra Research(网页)
Kategorie
Modellveröffentlichungen
KI-Bewertung
67
Original lesen Den vollständigen Artikel bei der Originalquelle lesen
Warum es wichtig ist

原文给出活跃参数不足 1B 的 MoE 模型在数学和编码基准上的具体成绩,以及全 AMD 集群训练和 Markovian RSA 测试时计算方法。

Quelle & Urheberrecht

Dieser Artikel basiert auf kuratierten Titeln und KI-Zusammenfassungen der öffentlichen AIHOT-API, mit Quellenangabe und Rückverlinkung. Das Urheberrecht am Original liegt bei den ursprünglichen Medien und Autoren; diese Seite spiegelt keine Volltexte.

Originalartikel · AIHOT-Eintrag

Zitierhinweis

Beim Zitieren dieses Artikels bitte Titel, Datum und Permalink beibehalten und Orange News als Quelle angeben.

Orange News: Zyphra veröffentlicht ZAYA1-8B: MoE-Modell, trainiert auf reinem AMD-Cluster. 6. Mai 2026. https://new.nat6.net/de/news/cmtym34cd000fro1n2yr52in4/

Alle ansehen →