ผลิตภัณฑ์และแอป

vLLM เปิดตัวการรองรับ Mistral Large 4 แบบ Day 0

หัวข้อต้นฉบับ:Day 0 support for Mistral Large 4 on vLLM

สรุปโดย AI

ทีม vLLM ประกาศรองรับ Mistral Large 4 โมเดลเรือธงใหม่ของ Mistral แบบ Day 0 โดยเป็นโมเดล MoE แบบมัลติโมดัลเนทีฟขนาด 1T พารามิเตอร์ เปิดใช้งาน 49B ต่อ token ใช้สถาปัตยกรรมใหม่ ได้แก่ MLA sparse attention พร้อม DSA top-k indexer, การแชร์ KV ข้ามชั้น, NoPE, SSMax และ LeRoPE พร้อม内置 DSpark speculative decoding drafter และ Pixtral vision encoder

ข้อมูลสำคัญ

  • ทีม vLLM ประกาศรองรับ Mistral Large 4 โมเดลเรือธงใหม่ของ Mistral แบบ Day 0 โดยเป็นโมเดล MoE…
  • การแชร์ KV ข้ามชั้น
  • SSMax และ LeRoPE พร้อม内置 DSpark speculative decoding drafter และ Pixtral vision encoder

สรุปสั้น

เวลาเผยแพร่
เวลาอัปเดต
แหล่งที่มา
vLLM 官方博客(RSS)
หมวดหมู่
ผลิตภัณฑ์และแอป
หัวข้อ
การอัปเดตผลิตภัณฑ์ระบบนิเวศโอเพนซอร์สมัลติโมดัล
คะแนน AI
71
อ่านต้นฉบับ อ่านบทความฉบับเต็มที่แหล่งข่าวต้นฉบับ
เหตุผลที่แนะนำ

vLLM 团队详解支持 Mistral Large 4 所需的架构适配与量化、长上下文、推测解码等实测数据,可作部署参考。

หัวข้อที่เกี่ยวข้อง

เอนทิตีที่เกี่ยวข้อง

แหล่งที่มาและลิขสิทธิ์

บทความนี้เรียบเรียงจากพาดหัวคัดสรรและบทสรุป AI จาก API สาธารณะของ AIHOT โดยระบุแหล่งที่มาและลิงก์กลับแล้ว ลิขสิทธิ์ต้นฉบับเป็นของสื่อและผู้เขียนต้นทาง เว็บไซต์นี้ไม่ได้สะท้อนเนื้อหาฉบับเต็ม

ลิงก์ต้นฉบับ · รายการ AIHOT

วิธีอ้างอิง

เมื่ออ้างอิงบทความนี้ โปรดระบุชื่อเรื่อง วันที่ และลิงก์ถาวร พร้อมระบุแหล่งที่มาเป็น Orange News

Orange News: vLLM เปิดตัวการรองรับ Mistral Large 4 แบบ Day 0 29 ตุลาคม 2026 https://new.nat6.net/th/news/x6x8nkxn5mqc55umit3clj1tf/

ดูทั้งหมด →