MiniMax M3 को vLLM का दिन-शून्य समर्थन, 1M कॉन्टेक्स्ट विंडो और MSA स्पार्स अटेंशन
मूल शीर्षक:day-0 in @vllm_project and it comes with: dedicated MSA prefill/decode kernels, 1M-context serving ...
AI सारांश
MiniMax M3 रिलीज़ हुआ, जिसमें अत्याधुनिक कोडिंग और एजेंट क्षमताएं, मूल इमेज-वीडियो इनपुट और कंप्यूटर उपयोग, तथा 1M-token कॉन्टेक्स्ट शामिल हैं। मुख्य रूप से MSA स्पार्स अटेंशन का उपयोग: प्रत्येक query 128-token KV ब्लॉक को स्कोर करता है और केवल top ब्लॉक पर अटेंशन करता है। vLLM ने उसी दिन M3 का समर्थन किया, जिसमें समर्पित MSA prefill/decode कर्नेल, प्रीफ़िक्स कैश और चंक्ड prefill, BF16 और MXFP8 चेकपॉइंट, Hopper और Blackwell के MoE बैकएंड शामिल हैं, और NVIDIA तथा AMD हार्डवेयर पर सत्यापित किया गया। साथ ही मूल मल्टीमॉडल इनपुट, टूल कॉलिंग, तर्क पार्सिंग और थिंकिंग मोड नियंत्रण जैसे एजेंट वर्कलोड का समर्थन करता है।
मुख्य जानकारी
- MiniMax M3 रिलीज़ हुआ
- जिसमें अत्याधुनिक कोडिंग और एजेंट क्षमताएं,मूल इमेज-वीडियो इनपुट और कंप्यूटर उपयोग,तथा 1M-token…
- जिसमें समर्पित MSA prefill/decode कर्नेल,प्रीफ़िक्स कैश और चंक्ड prefill,BF16 और MXFP8…
एक नज़र में
- प्रकाशन समय
- अपडेट समय
- स्रोत
- X:MiniMax (@MiniMax_AI)
- श्रेणी
- मॉडल लॉन्च
- AI स्कोर
- 82
M3把1M上下文从‘理论上能做’变成了‘今天就能部署’,MSA稀疏注意力是关键,开源社区和推理框架的深度合作值得关注。
संबंधित एंटिटी
स्रोत और कॉपीराइट
यह लेख AIHOT के सार्वजनिक API की चयनित सुर्खियों और AI सारांशों के आधार पर तैयार किया गया है, स्रोत का उल्लेख और लिंक दिया गया है; मूल पाठ का कॉपीराइट मूल मीडिया और लेखक के पास है, यह साइट पूरा पाठ मिरर नहीं करती।
उद्धरण कैसे दें
इस लेख का उद्धरण देते समय शीर्षक, तिथि और स्थायी लिंक बनाए रखें और स्रोत Orange News बताएं।
Orange News: MiniMax M3 को vLLM का दिन-शून्य समर्थन, 1M कॉन्टेक्स्ट विंडो और MSA स्पार्स अटेंशन। 13 जून 2026। https://new.nat6.net/hi/news/cmqbgej4i019vslamev56gffo/