MiniMax M3 mendapat sokongan vLLM hari pertama, tetingkap konteks 1M dan perhatian jarang MSA
Tajuk asal:day-0 in @vllm_project and it comes with: dedicated MSA prefill/decode kernels, 1M-context serving ...
Ringkasan AI
MiniMax M3 dilancarkan, dengan keupayaan pengekodan dan ejen termaju, input imej dan video asli serta penggunaan komputer, konteks 1M-token. Terasnya menggunakan perhatian jarang MSA: setiap query menilai blok KV 128-token, dan hanya melakukan perhatian pada blok teratas. vLLM menyokong M3 pada hari yang sama, termasuk kernel MSA prefill/decode khusus, cache awalan dan prefill berkelompok, checkpoint BF16 dan MXFP8, backend MoE Hopper dan Blackwell, serta disahkan pada perkakasan NVIDIA dan AMD. Turut menyokong input multimodal asli, panggilan alat, penghuraian penaakulan dan kawalan mod pemikiran untuk beban kerja ejen.
Maklumat penting
- MiniMax M3 dilancarkan,dengan keupayaan pengekodan dan ejen termaju,input imej dan video asli…
- Terasnya menggunakan perhatian jarang MSA: setiap query menilai blok KV 128-token,dan hanya…
- vLLM menyokong M3 pada hari yang sama,termasuk kernel MSA prefill/decode khusus,cache awalan dan…
- Turut menyokong input multimodal asli,panggilan alat,penghuraian penaakulan dan kawalan mod…
Sekilas pandang
- Diterbitkan pada
- Dikemas kini pada
- Sumber
- X:MiniMax (@MiniMax_AI)
- Kategori
- Pelancaran Model
- Skor AI
- 82
M3把1M上下文从‘理论上能做’变成了‘今天就能部署’,MSA稀疏注意力是关键,开源社区和推理框架的深度合作值得关注。
Entiti Berkaitan
Sumber dan hak cipta
Artikel ini disusun berdasarkan tajuk pilihan dan ringkasan AI daripada API awam AIHOT, dengan sumber dinyatakan dan pautan balik disediakan; hak cipta teks asal milik media dan penulis asal, laman ini tidak menyalin penuh teks penuh.
Cara memetik
Apabila memetik artikel ini, kekalkan tajuk, tarikh dan pautan kekal, serta nyatakan sumber sebagai Orange News.
Orange News: MiniMax M3 mendapat sokongan vLLM hari pertama, tetingkap konteks 1M dan perhatian jarang MSA. 13 Jun 2026. https://new.nat6.net/ms/news/cmqbgej4i019vslamev56gffo/