Unsloth ने Qwen3.8-Flash के स्थानीय अनुमान को 1.7 गुना तेज किया
मूल शीर्षक:Qwen3.8-Flash can now run 1.7× faster locally with MTP!⚡️ GGUFs can reach 170 tokens/s on a RTX PRO...
AI सारांश
Unsloth ने MTP (Multi-Token Prediction) के माध्यम से Qwen3.8-Flash-Next के स्थानीय अनुमान को लगभग 1.3 से 1.7 गुना तेज किया, सटीकता अपरिवर्तित रही, GGUF एक RTX PRO 6000 पर 170 tokens/s (आधारभूत 100 tokens/s) तक पहुँच सकता है।
मुख्य जानकारी
- Unsloth ने MTP (Multi-Token Prediction) के माध्यम से Qwen3.
- 8-Flash-Next के स्थानीय अनुमान को लगभग 1.
- 7 गुना तेज किया,सटीकता अपरिवर्तित रही,GGUF एक RTX PRO 6000 पर 170 tokens/s (आधारभूत 100 tokens/s)…
एक नज़र में
- प्रकाशन समय
- अपडेट समय
- स्रोत
- X:Unsloth (@UnslothAI)
- श्रेणी
- उत्पाद और ऐप्स
- AI स्कोर
- 66
原文给出了 MTP 加速的具体倍数、显存门槛和各量化档位内存需求,读者可以据此判断自己的设备能否跑通。
स्रोत और कॉपीराइट
यह लेख AIHOT के सार्वजनिक API की चयनित सुर्खियों और AI सारांशों के आधार पर तैयार किया गया है, स्रोत का उल्लेख और लिंक दिया गया है; मूल पाठ का कॉपीराइट मूल मीडिया और लेखक के पास है, यह साइट पूरा पाठ मिरर नहीं करती।
उद्धरण कैसे दें
इस लेख का उद्धरण देते समय शीर्षक, तिथि और स्थायी लिंक बनाए रखें और स्रोत Orange News बताएं।
Orange News: Unsloth ने Qwen3.8-Flash के स्थानीय अनुमान को 1.7 गुना तेज किया। 2 सितंबर 2026। https://new.nat6.net/hi/news/cmtyjea9r0005ro10eeudp015/