MiniMax M3, vLLM 당일 지원 확보… 1M 컨텍스트 창과 MSA 희소 어텐션
원제목:day-0 in @vllm_project and it comes with: dedicated MSA prefill/decode kernels, 1M-context serving ...
AI 요약
MiniMax M3가 출시됐으며 최첨단 코딩 및 에이전트 역량, 네이티브 이미지·비디오 입력과 컴퓨터 사용, 1M-token 컨텍스트를 갖췄다. 핵심은 MSA 희소 어텐션으로, 각 query가 128-token KV 블록을 평가하고 상위 블록에만 어텐션을 수행한다. vLLM은 당일 M3를 지원했으며 전용 MSA prefill/decode 커널, 프리픽스 캐시와 청크 prefill, BF16 및 MXFP8 체크포인트, Hopper와 Blackwell의 MoE 백엔드를 포함하고 NVIDIA와 AMD 하드웨어에서 검증됐다. 또한 네이티브 멀티모달 입력, 도구 호출, 추론 파싱, 사고 모드 제어 등 에이전트 워크로드를 지원한다.
핵심 정보
- MiniMax M3가 출시됐으며 최첨단 코딩 및 에이전트 역량,네이티브 이미지·비디오 입력과 컴퓨터 사용,1M-token 컨텍스트를 갖췄다.
- 핵심은 MSA 희소 어텐션으로,각 query가 128-token KV 블록을 평가하고 상위 블록에만 어텐션을 수행한다.
- vLLM은 당일 M3를 지원했으며 전용 MSA prefill/decode 커널,프리픽스 캐시와 청크 prefill,BF16 및 MXFP8 체크포인트,Hopper와…
- 또한 네이티브 멀티모달 입력,도구 호출,추론 파싱,사고 모드 제어 등 에이전트 워크로드를 지원한다.
한눈에 보기
- 게시
- 업데이트
- 카테고리
- 모델 출시
- AI 점수
- 82
M3把1M上下文从‘理论上能做’变成了‘今天就能部署’,MSA稀疏注意力是关键,开源社区和推理框架的深度合作值得关注。
관련 엔티티
출처 및 저작권
이 기사는 AIHOT 공개 API가 제공하는 선별 제목과 AI 요약을 바탕으로 하며, 출처를 밝히고 원문으로 연결합니다. 원문 저작권은 원 미디어와 저자에게 있으며, 본 사이트는 전문을 전재하지 않습니다.
인용 방법
본문을 인용할 때는 제목, 날짜, 영구 링크를 유지하고 출처를 Orange News(으)로 표기해 주세요.
Orange News: MiniMax M3, vLLM 당일 지원 확보… 1M 컨텍스트 창과 MSA 희소 어텐션. 2026년 6월 13일. https://new.nat6.net/ko/news/cmqbgej4i019vslamev56gffo/