Xiaohongshu dots infra veröffentlicht BigMac als Open Source: Durchbruch an der Pareto-Front beim Training multimodaler großer Modelle
Originaltitel:小红书 dots infra 开源BigMac : 突破多模态大模型训练的帕累托前沿
KI-Zusammenfassung
Xiaohongshu hat BigMac als Open Source veröffentlicht, ein neues Pipeline-Parallel-Trainingsparadigma für native multimodale Szenarien. Durch abhängigkeitssichere verschachtelte Pipelines ermöglicht es effizientes multimodales Pipeline-Training, ohne die Leerläufe der LLM-Pipeline zu erhöhen und bei begrenztem Aktivierungsspeicher zu bleiben. Im Vergleich zur Baseline beschleunigt BigMac das Training um das 1,08- bis 1,9-Fache und hält den Speicherverbrauch bei steigender global batch size stabil. Derzeit wird es bereits im Produktionstraining der multimodalen dots-Modelle eingesetzt.
Kernpunkte
- Xiaohongshu hat BigMac als Open Source veröffentlicht,ein neues…
- Durch abhängigkeitssichere verschachtelte Pipelines ermöglicht es effizientes multimodales…
- Im Vergleich zur Baseline beschleunigt BigMac das Training um das 1,08- bis 1,9-Fache und hält den…
- Derzeit wird es bereits im Produktionstraining der multimodalen dots-Modelle eingesetzt.
Auf einen Blick
- Veröffentlicht
- Aktualisiert
- Quelle
- 公众号:小红书技术(dots.llm)
- Kategorie
- Produkte & Apps
- KI-Bewertung
- 70
通过在成熟的LLM流水线中嵌入依赖安全的编码器与生成器计算,BigMac让多模态大模型训练不再需要在速度和显存之间做非此即彼的选择,适合正在纠结训练策略的工程团队检查调度逻辑。
Quelle & Urheberrecht
Dieser Artikel basiert auf kuratierten Titeln und KI-Zusammenfassungen der öffentlichen AIHOT-API, mit Quellenangabe und Rückverlinkung. Das Urheberrecht am Original liegt bei den ursprünglichen Medien und Autoren; diese Seite spiegelt keine Volltexte.
Zitierhinweis
Beim Zitieren dieses Artikels bitte Titel, Datum und Permalink beibehalten und Orange News als Quelle angeben.
Orange News: Xiaohongshu dots infra veröffentlicht BigMac als Open Source: Durchbruch an der Pareto-Front beim Training multimodaler großer Modelle. 22. Juli 2026. https://new.nat6.net/de/news/cmsdu108a00ucrofzwlsyffxo/