튜토리얼 및 팁

LMSYS, Intel과 협력해 이기종 CPU+GPU EPD 아키텍처로 VLM 서비스 성능 향상

원제목:Blog Heterogeneous CPU + GPU EPD Disaggregation to Boost VLM Serving TL;DR We enabled heterogeneous Encode-Prefill-Decode (EPD) disaggregation via Dynamo and SGLang for Vision-Language Models (VLMs). By offloading vision encoding tasks to CPUs (the easiest-getting CPU... Intel & SGLang Team

AI 요약

LMSYS 팀(Intel 및 SGLang)은 Dynamo와 SGLang 프레임워크를 통해 비전 언어 모델(VLM)용 이기종 인코딩-프리필-디코딩(EPD) 아키텍처를 구현했습니다. 이 방식은 비전 인코딩 작업을 GPU에서 CPU(예: Intel Xeon 6747P)로 오프로드해 GPU와 협력합니다. Qwen3-VL-8B-Instruct 모델 테스트에서 4 CPU + 1 GPU를 인코더로, 4 GPU를 프리필 디코더로 사용하는 구성(용량비 R=12)은 ISL/OSL 128/256, 1080p 8장 이미지 부하에서 P99 TTFT와 요청 처리량을 약 1.2배에서 1.3배 향상시키고 P99 TPOT를 약 1.3배에서 30배 낮췄습니다.

핵심 정보

  • LMSYS 팀(Intel 및 SGLang)은 Dynamo와 SGLang 프레임워크를 통해 비전 언어 모델(VLM)용 이기종 인코딩-프리필-디코딩(EPD) 아키텍처를 구현했습니다.
  • 이 방식은 비전 인코딩 작업을 GPU에서 CPU(예: Intel Xeon 6747P)로 오프로드해 GPU와 협력합니다.
  • Qwen3-VL-8B-Instruct 모델 테스트에서 4 CPU + 1 GPU를 인코더로,4 GPU를 프리필 디코더로 사용하는 구성(용량비 R=12)은 ISL/OSL…
  • 3배 향상시키고 P99 TPOT를 약 1.
  • 3배에서 30배 낮췄습니다.

한눈에 보기

게시
업데이트
출처
LMSYS Blog
카테고리
튜토리얼 및 팁
AI 점수
61
원문 읽기 정보 출처에서 전체 본문 읽기
추천 이유

做VLM服务部署的可以认真看一下,用CPU头节点做异构EPD分离,几乎零成本换来了TTFT和TPOT的显著提升,有完整脚本和benchmark,能直接上手试。

출처 및 저작권

이 기사는 AIHOT 공개 API가 제공하는 선별 제목과 AI 요약을 바탕으로 하며, 출처를 밝히고 원문으로 연결합니다. 원문 저작권은 원 미디어와 저자에게 있으며, 본 사이트는 전문을 전재하지 않습니다.

원문 기사 · AIHOT 항목

인용 방법

본문을 인용할 때는 제목, 날짜, 영구 링크를 유지하고 출처를 Orange News(으)로 표기해 주세요.

Orange News: LMSYS, Intel과 협력해 이기종 CPU+GPU EPD 아키텍처로 VLM 서비스 성능 향상. 2026년 5월 29일. https://new.nat6.net/ko/news/cmpvk42bo0015slfpngd3kyca/

전체 보기 →