Pelancaran Model

Xiaomi MiMo dan TileRT bersama-sama melancarkan mod UltraSpeed, output model 1T melebihi 1000 tokens/s

Tajuk asal:Xiaomi MiMo 携手 TileRT|1T 模型首次突破 1000 tokens/s 输出速度

Ringkasan AI

Xiaomi MiMo dan TileRT bersama-sama melancarkan mod MiMo-V2.5-Pro-UltraSpeed, menjadikan kelajuan output model perdana 1T parameter melebihi 1000 tokens/s buat pertama kali. Dari segi model, ia menggunakan pengkuantitian campuran FP4 (hanya mengkuantitikan MoE Expert) dan penyahkodan spekulatif selari bertopeng peringkat blok DFlash (purata panjang penerimaan 6.30 tokens dalam senario coding); dari segi sistem, TileRT memperkenalkan enjin kernel pemastautin dan kerjasama saluran paip heterogen. API dibuka untuk tempoh terhad (9 hingga 23 Jun 2026), dengan harga 3 kali ganda MiMo-V2.5-Pro dan kelajuan kira-kira 10 kali ganda. Pemberat FP4 dan checkpoint model DFlash telah disumber terbuka ke HuggingFace.

Maklumat penting

  • Xiaomi MiMo dan TileRT bersama-sama melancarkan mod MiMo-V2.
  • 5-Pro-UltraSpeed,menjadikan kelajuan output model perdana 1T parameter melebihi 1000 tokens/s buat…
  • Dari segi model,ia menggunakan pengkuantitian campuran FP4 (hanya mengkuantitikan MoE Expert) dan…
  • 30 tokens dalam senario coding)
  • dari segi sistem,TileRT memperkenalkan enjin kernel pemastautin dan kerjasama saluran paip…

Sekilas pandang

Diterbitkan pada
Dikemas kini pada
Sumber
公众号:小米 MiMo
Kategori
Pelancaran Model
Skor AI
80
Baca asal Baca artikel penuh di sumber asal
Sebab disyorkan

万亿模型首次在通用GPU上突破1000 tokens/s,不是专用硬件的胜利而是模型与系统Codesign的胜利,做实时AI应用的都应该盯紧这一套方案。

Entiti Berkaitan

Sumber dan hak cipta

Artikel ini disusun berdasarkan tajuk pilihan dan ringkasan AI daripada API awam AIHOT, dengan sumber dinyatakan dan pautan balik disediakan; hak cipta teks asal milik media dan penulis asal, laman ini tidak menyalin penuh teks penuh.

Pautan asal · Entri AIHOT

Cara memetik

Apabila memetik artikel ini, kekalkan tajuk, tarikh dan pautan kekal, serta nyatakan sumber sebagai Orange News.

Orange News: Xiaomi MiMo dan TileRT bersama-sama melancarkan mod UltraSpeed, output model 1T melebihi 1000 tokens/s. 9 Jun 2026. https://new.nat6.net/ms/news/cmq63dzew04srsl5ix1r8n4ne/

Lihat Semua →