Unsloth เปิดตัว Mistral Le Chonk เวอร์ชันควอนไทซ์ 1-bit GGUF รันโมเดล 1T พารามิเตอร์ได้ในเครื่อง
หัวข้อต้นฉบับ:Mistral Le Chonk can now run locally!
สรุปโดย AI
Unsloth เปิดตัว Dynamic 1-bit GGUF ของ Mistral Le Chonk (Mistral Large 4, MoE 1T พารามิเตอร์, เปิดใช้งาน 52B) ซึ่งสามารถรันในเครื่องบน Mac Studio โดยรักษาความแม่นยำ top-1 ไว้ได้ 91% มีขนาดประมาณ 233GB (เล็กกว่า FP8 1.1TB ถึง 80%) ภาพแสดงความต้องการฮาร์ดแวร์ของแต่ละระดับควอนไทซ์ โดย 1-bit ต้องใช้หน่วยความจำ 256-270GB รุ่นเล็กสุด UD-IQ1_S ใช้พื้นที่ดิสก์ประมาณ 233GB และรองรับอินพุตข้อความและภาพ คอนเท็กซ์ 1M และกว่า 160 ภาษา ดู GGUF และคู่มือได้ที่ huggingface.co/unsloth/Mistral-Large-4-1T-A52B-GGUF และ unsloth.ai/docs/models/mistral-large-4
ข้อมูลสำคัญ
- Unsloth เปิดตัว Dynamic 1-bit GGUF ของ Mistral Le Chonk (Mistral Large 4,MoE 1T…
- 1TB ถึง 80%) ภาพแสดงความต้องการฮาร์ดแวร์ของแต่ละระดับควอนไทซ์ โดย 1-bit ต้องใช้หน่วยความจำ…
- co/unsloth/Mistral-Large-4-1T-A52B-GGUF และ unsloth.
- ai/docs/models/mistral-large-4
สรุปสั้น
- เวลาเผยแพร่
- เวลาอัปเดต
- แหล่งที่มา
- X:Unsloth (@UnslothAI)
- หมวดหมู่
- ผลิตภัณฑ์และแอป
- คะแนน AI
- 77
原文给出在 Mac Studio 上本地运行 1T 参数模型的量化方案和硬件需求表,读者可直接照做部署。
หัวข้อที่เกี่ยวข้อง
เอนทิตีที่เกี่ยวข้อง
แหล่งที่มาและลิขสิทธิ์
บทความนี้เรียบเรียงจากพาดหัวคัดสรรและบทสรุป AI จาก API สาธารณะของ AIHOT โดยระบุแหล่งที่มาและลิงก์กลับแล้ว ลิขสิทธิ์ต้นฉบับเป็นของสื่อและผู้เขียนต้นทาง เว็บไซต์นี้ไม่ได้สะท้อนเนื้อหาฉบับเต็ม
วิธีอ้างอิง
เมื่ออ้างอิงบทความนี้ โปรดระบุชื่อเรื่อง วันที่ และลิงก์ถาวร พร้อมระบุแหล่งที่มาเป็น Orange News
Orange News: Unsloth เปิดตัว Mistral Le Chonk เวอร์ชันควอนไทซ์ 1-bit GGUF รันโมเดล 1T พารามิเตอร์ได้ในเครื่อง 29 ตุลาคม 2026 https://new.nat6.net/th/news/rph54wkrnzjpvov4cv0mxqatl/