Ant Group Zhou Jun: Wie hybride lineare Umbauten die Token-Dichte von Billionen-Parameter-Modellen verbessern
Originaltitel:演讲实录 | 从 Token 数量到 Token 密度:万亿参数规模下的高效智能体智能
KI-Zusammenfassung
Zhou Jun, Vizepräsident der Ant Group, erklärt, dass ein Billionen-Parameter-Modell alle 15 Minuten Rechenkosten in Höhe eines Tesla verursacht; Effizienz sei die erste Aufgabe im Agent-Zeitalter. Das Team senkt durch einen hybriden linearen Umbau mit 7 Teilen Lightning Attention und 1 Teil MLA die Kosten für 256K langen Kontext von exponentiell auf linear. Zusammen mit dem Kpop-Algorithmus und Training in realer Umgebung sinkt die Token-Ausgabe um etwa das Vierfache; ein Modell mit 100 Milliarden Parametern übertrifft bei echten Agent-Aufgaben teils größere Modelle.
Kernpunkte
- Zhou Jun,Vizepräsident der Ant Group,erklärt,dass ein Billionen-Parameter-Modell alle 15 Minuten…
- Effizienz sei die erste Aufgabe im Agent-Zeitalter.
- Das Team senkt durch einen hybriden linearen Umbau mit 7 Teilen Lightning Attention und 1 Teil MLA…
- Zusammen mit dem Kpop-Algorithmus und Training in realer Umgebung sinkt die Token-Ausgabe um etwa…
- ein Modell mit 100 Milliarden Parametern übertrifft bei echten Agent-Aufgaben teils größere Modelle.
Auf einen Blick
- Veröffentlicht
- Aktualisiert
- Quelle
- 公众号:蚂蚁百灵(Ling)
- Kategorie
- Meinung
- KI-Bewertung
- 60
7:1 的混合注意力配比、将真实错误纳入训练以及区分工具调用与自然语言的奖励函数,为同时追求长上下文效率和智能体可靠性的工作提供了可参照的技术路线。
Quelle & Urheberrecht
Dieser Artikel basiert auf kuratierten Titeln und KI-Zusammenfassungen der öffentlichen AIHOT-API, mit Quellenangabe und Rückverlinkung. Das Urheberrecht am Original liegt bei den ursprünglichen Medien und Autoren; diese Seite spiegelt keine Volltexte.
Zitierhinweis
Beim Zitieren dieses Artikels bitte Titel, Datum und Permalink beibehalten und Orange News als Quelle angeben.
Orange News: Ant Group Zhou Jun: Wie hybride lineare Umbauten die Token-Dichte von Billionen-Parameter-Modellen verbessern. 8. Juli 2026. https://new.nat6.net/de/news/cmsdu2qga010drofz1h40txvh/