모델 출시

vLLM, Qwen3.8-2.4T-A95B Day-0 지원 제공

원제목:Day 0 Support for Qwen3.8-2.4T-A95B on vLLM

AI 요약

vLLM은 Qwen3.8-2.4T-A95B에 대한 Day-0 지원을 발표했다. 이 모델은 Qwen 3.5 아키텍처 기반의 2.4조 파라미터 희소 MoE 모델로 512개 전문가를 포함하며, 92개 레이어 하이브리드 백본 중 4개 레이어마다 full attention을 사용하고 나머지 69개 레이어는 선형 어텐션이다.

핵심 정보

  • vLLM은 Qwen3.
  • 4T-A95B에 대한 Day-0 지원을 발표했다.
  • 이 모델은 Qwen 3.
  • 5 아키텍처 기반의 2.
  • 4조 파라미터 희소 MoE 모델로 512개 전문가를 포함하며,92개 레이어 하이브리드 백본 중 4개 레이어마다 full attention을 사용하고 나머지 69개 레이어는 선형…

한눈에 보기

게시
업데이트
출처
vLLM 官方博客(RSS)
카테고리
모델 출시
AI 점수
72
원문 읽기 정보 출처에서 전체 본문 읽기
추천 이유

原文给出架构细节、量化方案和硬件要求,读者可以据此评估部署这个 2.4T 参数开源权重模型的成本与配置。

관련 엔티티

출처 및 저작권

이 기사는 AIHOT 공개 API가 제공하는 선별 제목과 AI 요약을 바탕으로 하며, 출처를 밝히고 원문으로 연결합니다. 원문 저작권은 원 미디어와 저자에게 있으며, 본 사이트는 전문을 전재하지 않습니다.

원문 기사 · AIHOT 항목

인용 방법

본문을 인용할 때는 제목, 날짜, 영구 링크를 유지하고 출처를 Orange News(으)로 표기해 주세요.

Orange News: vLLM, Qwen3.8-2.4T-A95B Day-0 지원 제공. 2026년 8월 12일. https://new.nat6.net/ko/news/cmtym20dd000erovumyee3pp4/

전체 보기 →