Unsloth ने Mistral Le Chonk 1-bit GGUF क्वांटाइज्ड संस्करण जारी किया, जो स्थानीय रूप से 1T पैरामीटर मॉडल चलाने में सक्षम है
मूल शीर्षक:Mistral Le Chonk can now run locally!
AI सारांश
Unsloth ने Mistral Le Chonk (Mistral Large 4, 1T पैरामीटर MoE, 52B एक्टिव) का डायनामिक 1-bit GGUF जारी किया है। यह Mac Studio पर स्थानीय रूप से चल सकता है, 91% top-1 सटीकता बनाए रखता है और इसका आकार लगभग 233GB है (1.1TB FP8 से 80% छोटा)। 1-bit संस्करण के लिए 256-270GB RAM की आवश्यकता होती है, और यह टेक्स्ट व इमेज इनपुट, 1M कॉन्टेक्स्ट और 160+ भाषाओं का समर्थन करता है। GGUF और गाइड के लिए huggingface.co/unsloth/Mistral-Large-4-1T-A52B-GGUF और unsloth.ai/docs/models/mistral-large-4 देखें।
मुख्य जानकारी
- Unsloth ने Mistral Le Chonk (Mistral Large 4,1T पैरामीटर MoE,52B एक्टिव) का डायनामिक 1-bit GGUF…
- 1TB FP8 से 80% छोटा)। 1-bit संस्करण के लिए 256-270GB RAM की आवश्यकता होती है,और यह टेक्स्ट व इमेज…
- co/unsloth/Mistral-Large-4-1T-A52B-GGUF और unsloth.
- ai/docs/models/mistral-large-4 देखें।
एक नज़र में
- प्रकाशन समय
- अपडेट समय
- स्रोत
- X:Unsloth (@UnslothAI)
- श्रेणी
- उत्पाद और ऐप्स
- AI स्कोर
- 77
原文给出在 Mac Studio 上本地运行 1T 参数模型的量化方案和硬件需求表,读者可直接照做部署。
संबंधित एंटिटी
स्रोत और कॉपीराइट
यह लेख AIHOT के सार्वजनिक API की चयनित सुर्खियों और AI सारांशों के आधार पर तैयार किया गया है, स्रोत का उल्लेख और लिंक दिया गया है; मूल पाठ का कॉपीराइट मूल मीडिया और लेखक के पास है, यह साइट पूरा पाठ मिरर नहीं करती।
उद्धरण कैसे दें
इस लेख का उद्धरण देते समय शीर्षक, तिथि और स्थायी लिंक बनाए रखें और स्रोत Orange News बताएं।
Orange News: Unsloth ने Mistral Le Chonk 1-bit GGUF क्वांटाइज्ड संस्करण जारी किया, जो स्थानीय रूप से 1T पैरामीटर मॉडल चलाने में सक्षम है। 29 अक्टूबर 2026। https://new.nat6.net/hi/news/rph54wkrnzjpvov4cv0mxqatl/