Produkte & Apps

Xiaohongshu dots infra veröffentlicht BigMac als Open Source: Durchbruch an der Pareto-Front beim Training multimodaler großer Modelle

Originaltitel:小红书 dots infra 开源BigMac : 突破多模态大模型训练的帕累托前沿

KI-Zusammenfassung

Xiaohongshu hat BigMac als Open Source veröffentlicht, ein neues Pipeline-Parallel-Trainingsparadigma für native multimodale Szenarien. Durch abhängigkeitssichere verschachtelte Pipelines ermöglicht es effizientes multimodales Pipeline-Training, ohne die Leerläufe der LLM-Pipeline zu erhöhen und bei begrenztem Aktivierungsspeicher zu bleiben. Im Vergleich zur Baseline beschleunigt BigMac das Training um das 1,08- bis 1,9-Fache und hält den Speicherverbrauch bei steigender global batch size stabil. Derzeit wird es bereits im Produktionstraining der multimodalen dots-Modelle eingesetzt.

Kernpunkte

  • Xiaohongshu hat BigMac als Open Source veröffentlicht,ein neues…
  • Durch abhängigkeitssichere verschachtelte Pipelines ermöglicht es effizientes multimodales…
  • Im Vergleich zur Baseline beschleunigt BigMac das Training um das 1,08- bis 1,9-Fache und hält den…
  • Derzeit wird es bereits im Produktionstraining der multimodalen dots-Modelle eingesetzt.

Auf einen Blick

Veröffentlicht
Aktualisiert
Quelle
公众号:小红书技术(dots.llm)
Kategorie
Produkte & Apps
KI-Bewertung
70
Original lesen Den vollständigen Artikel bei der Originalquelle lesen
Warum es wichtig ist

通过在成熟的LLM流水线中嵌入依赖安全的编码器与生成器计算,BigMac让多模态大模型训练不再需要在速度和显存之间做非此即彼的选择,适合正在纠结训练策略的工程团队检查调度逻辑。

Quelle & Urheberrecht

Dieser Artikel basiert auf kuratierten Titeln und KI-Zusammenfassungen der öffentlichen AIHOT-API, mit Quellenangabe und Rückverlinkung. Das Urheberrecht am Original liegt bei den ursprünglichen Medien und Autoren; diese Seite spiegelt keine Volltexte.

Originalartikel · AIHOT-Eintrag

Zitierhinweis

Beim Zitieren dieses Artikels bitte Titel, Datum und Permalink beibehalten und Orange News als Quelle angeben.

Orange News: Xiaohongshu dots infra veröffentlicht BigMac als Open Source: Durchbruch an der Pareto-Front beim Training multimodaler großer Modelle. 22. Juli 2026. https://new.nat6.net/de/news/cmsdu108a00ucrofzwlsyffxo/

Alle ansehen →