Xiaomi MiMo dan TileRT bersama-sama melancarkan mod UltraSpeed, output model 1T melebihi 1000 tokens/s
Tajuk asal:Xiaomi MiMo 携手 TileRT|1T 模型首次突破 1000 tokens/s 输出速度
Ringkasan AI
Xiaomi MiMo dan TileRT bersama-sama melancarkan mod MiMo-V2.5-Pro-UltraSpeed, menjadikan kelajuan output model perdana 1T parameter melebihi 1000 tokens/s buat pertama kali. Dari segi model, ia menggunakan pengkuantitian campuran FP4 (hanya mengkuantitikan MoE Expert) dan penyahkodan spekulatif selari bertopeng peringkat blok DFlash (purata panjang penerimaan 6.30 tokens dalam senario coding); dari segi sistem, TileRT memperkenalkan enjin kernel pemastautin dan kerjasama saluran paip heterogen. API dibuka untuk tempoh terhad (9 hingga 23 Jun 2026), dengan harga 3 kali ganda MiMo-V2.5-Pro dan kelajuan kira-kira 10 kali ganda. Pemberat FP4 dan checkpoint model DFlash telah disumber terbuka ke HuggingFace.
Maklumat penting
- Xiaomi MiMo dan TileRT bersama-sama melancarkan mod MiMo-V2.
- 5-Pro-UltraSpeed,menjadikan kelajuan output model perdana 1T parameter melebihi 1000 tokens/s buat…
- Dari segi model,ia menggunakan pengkuantitian campuran FP4 (hanya mengkuantitikan MoE Expert) dan…
- 30 tokens dalam senario coding)
- dari segi sistem,TileRT memperkenalkan enjin kernel pemastautin dan kerjasama saluran paip…
Sekilas pandang
- Diterbitkan pada
- Dikemas kini pada
- Sumber
- 公众号:小米 MiMo
- Kategori
- Pelancaran Model
- Skor AI
- 80
万亿模型首次在通用GPU上突破1000 tokens/s,不是专用硬件的胜利而是模型与系统Codesign的胜利,做实时AI应用的都应该盯紧这一套方案。
Entiti Berkaitan
Sumber dan hak cipta
Artikel ini disusun berdasarkan tajuk pilihan dan ringkasan AI daripada API awam AIHOT, dengan sumber dinyatakan dan pautan balik disediakan; hak cipta teks asal milik media dan penulis asal, laman ini tidak menyalin penuh teks penuh.
Cara memetik
Apabila memetik artikel ini, kekalkan tajuk, tarikh dan pautan kekal, serta nyatakan sumber sebagai Orange News.
Orange News: Xiaomi MiMo dan TileRT bersama-sama melancarkan mod UltraSpeed, output model 1T melebihi 1000 tokens/s. 9 Jun 2026. https://new.nat6.net/ms/news/cmq63dzew04srsl5ix1r8n4ne/