Moonshot, 2.8T 파라미터 오픈소스 멀티모달 모델 Kimi K3 공개…Modal, 출시 당일 460 tokens/s 추론 구현
원제목:Kimi K3 by Moonshot now available on Modal
AI 요약
Moonshot이 Kimi K3를 공개했다. 총 파라미터 2.8T, 토큰당 16/896 전문가 활성화, 1M 토큰 컨텍스트 윈도와 네이티브 비전을 지원한다. Modal은 Moonshot, vLLM과 협력해 Day 0 지원을 제공했으며, 맞춤형 DFlash 투기적 디코딩 모델을 통해 에이전트 워크로드 상호작용 속도를 100에서 460 tokens/s로, 처리량을 800k에서 1.5M TPM/GPU로 끌어올렸다.
핵심 정보
- Moonshot이 Kimi K3를 공개했다.
- 총 파라미터 2.
- 8T,토큰당 16/896 전문가 활성화,1M 토큰 컨텍스트 윈도와 네이티브 비전을 지원한다.
- Modal은 Moonshot,vLLM과 협력해 Day 0 지원을 제공했으며,맞춤형 DFlash 투기적 디코딩 모델을 통해 에이전트 워크로드 상호작용 속도를 100에서 460…
- 5M TPM/GPU로 끌어올렸다.
한눈에 보기
- 게시
- 업데이트
- 카테고리
- 모델 출시
- AI 점수
- 78
추천 이유
Modal 作为发布当天的托管方,给出了 K3 架构细节与推理加速数据,读者可据此评估运行这级开源模型的工程门槛。
관련 엔티티
출처 및 저작권
이 기사는 AIHOT 공개 API가 제공하는 선별 제목과 AI 요약을 바탕으로 하며, 출처를 밝히고 원문으로 연결합니다. 원문 저작권은 원 미디어와 저자에게 있으며, 본 사이트는 전문을 전재하지 않습니다.
인용 방법
본문을 인용할 때는 제목, 날짜, 영구 링크를 유지하고 출처를 Orange News(으)로 표기해 주세요.
Orange News: Moonshot, 2.8T 파라미터 오픈소스 멀티모달 모델 Kimi K3 공개…Modal, 출시 당일 460 tokens/s 추론 구현. 2026년 7월 27일. https://new.nat6.net/ko/news/cmtym269d0005rofaar263rp8/