모델 출시

Moonshot, 2.8T 파라미터 오픈소스 멀티모달 모델 Kimi K3 공개…Modal, 출시 당일 460 tokens/s 추론 구현

원제목:Kimi K3 by Moonshot now available on Modal

AI 요약

Moonshot이 Kimi K3를 공개했다. 총 파라미터 2.8T, 토큰당 16/896 전문가 활성화, 1M 토큰 컨텍스트 윈도와 네이티브 비전을 지원한다. Modal은 Moonshot, vLLM과 협력해 Day 0 지원을 제공했으며, 맞춤형 DFlash 투기적 디코딩 모델을 통해 에이전트 워크로드 상호작용 속도를 100에서 460 tokens/s로, 처리량을 800k에서 1.5M TPM/GPU로 끌어올렸다.

핵심 정보

  • Moonshot이 Kimi K3를 공개했다.
  • 총 파라미터 2.
  • 8T,토큰당 16/896 전문가 활성화,1M 토큰 컨텍스트 윈도와 네이티브 비전을 지원한다.
  • Modal은 Moonshot,vLLM과 협력해 Day 0 지원을 제공했으며,맞춤형 DFlash 투기적 디코딩 모델을 통해 에이전트 워크로드 상호작용 속도를 100에서 460…
  • 5M TPM/GPU로 끌어올렸다.

한눈에 보기

게시
업데이트
출처
Modal 官方工程博客(RSS)
카테고리
모델 출시
AI 점수
78
원문 읽기 정보 출처에서 전체 본문 읽기
추천 이유

Modal 作为发布当天的托管方,给出了 K3 架构细节与推理加速数据,读者可据此评估运行这级开源模型的工程门槛。

관련 엔티티

출처 및 저작권

이 기사는 AIHOT 공개 API가 제공하는 선별 제목과 AI 요약을 바탕으로 하며, 출처를 밝히고 원문으로 연결합니다. 원문 저작권은 원 미디어와 저자에게 있으며, 본 사이트는 전문을 전재하지 않습니다.

원문 기사 · AIHOT 항목

인용 방법

본문을 인용할 때는 제목, 날짜, 영구 링크를 유지하고 출처를 Orange News(으)로 표기해 주세요.

Orange News: Moonshot, 2.8T 파라미터 오픈소스 멀티모달 모델 Kimi K3 공개…Modal, 출시 당일 460 tokens/s 추론 구현. 2026년 7월 27일. https://new.nat6.net/ko/news/cmtym269d0005rofaar263rp8/

전체 보기 →