उत्पाद और ऐप्स

vLLM ने Mistral Large 4 के लिए Day 0 सपोर्ट जारी किया

मूल शीर्षक:Day 0 support for Mistral Large 4 on vLLM

AI सारांश

vLLM टीम ने Mistral के नए फ्लैगशिप मॉडल Mistral Large 4 के लिए Day 0 सपोर्ट की घोषणा की है। यह 1T पैरामीटर और प्रति टोकन 49B एक्टिवेटेड पैरामीटर वाला एक नेटिव मल्टीमॉडल MoE मॉडल है, जिसमें MLA स्पार्स अटेंशन, DSA top-k इंडेक्सर, क्रॉस-लेयर KV शेयरिंग, NoPE, SSMax और LeRoPE जैसे नए आर्किटेक्चर शामिल हैं, साथ ही इसमें DSpark स्पेक्युलेटिव डिकोडिंग ड्राफ्टर और Pixtral विज़न एनकोडर इनबिल्ट हैं।

मुख्य जानकारी

  • vLLM टीम ने Mistral के नए फ्लैगशिप मॉडल Mistral Large 4 के लिए Day 0 सपोर्ट की घोषणा की है। यह 1T…
  • जिसमें MLA स्पार्स अटेंशन
  • DSA top-k इंडेक्सर,क्रॉस-लेयर KV शेयरिंग,SSMax और LeRoPE जैसे नए आर्किटेक्चर शामिल हैं,साथ ही…

एक नज़र में

प्रकाशन समय
अपडेट समय
स्रोत
vLLM 官方博客(RSS)
श्रेणी
उत्पाद और ऐप्स
विषय
उत्पाद अपडेटओपन-सोर्स इकोसिस्टममल्टीमॉडल
AI स्कोर
71
मूल पढ़ें मूल स्रोत पर पूरा लेख पढ़ें
सुझाव का कारण

vLLM 团队详解支持 Mistral Large 4 所需的架构适配与量化、长上下文、推测解码等实测数据,可作部署参考。

संबंधित विषय

संबंधित एंटिटी

स्रोत और कॉपीराइट

यह लेख AIHOT के सार्वजनिक API की चयनित सुर्खियों और AI सारांशों के आधार पर तैयार किया गया है, स्रोत का उल्लेख और लिंक दिया गया है; मूल पाठ का कॉपीराइट मूल मीडिया और लेखक के पास है, यह साइट पूरा पाठ मिरर नहीं करती।

मूल लिंक · AIHOT प्रविष्टि

उद्धरण कैसे दें

इस लेख का उद्धरण देते समय शीर्षक, तिथि और स्थायी लिंक बनाए रखें और स्रोत Orange News बताएं।

Orange News: vLLM ने Mistral Large 4 के लिए Day 0 सपोर्ट जारी किया। 29 अक्टूबर 2026। https://new.nat6.net/hi/news/x6x8nkxn5mqc55umit3clj1tf/

सभी देखें →