DFlash는 UC San Diego 팀이 제안한 투기적 디코딩용 경량 블록 확산 드래프트 모델이다. 한 번의 순방향 추론으로 토큰 블록 전체를 생성한 뒤 대상 모델이 병렬 검증해 출력 무손실을 보장한다. EAGLE-3 대비 최대 2.5배 가속을 구현했으며 Qwen3-8B 등 여러 모델에서 평균 무손실 가속이 6배를 넘는다(MATH-500에서 6.08×). NVIDIA Blackwell(TensorRT-LLM)에서 gpt-oss-120b 모델 처리량이 최대 15배 향상되어 EAGLE-3의 약 1.5배다. 핵심 혁신은 대상 모델의 다층 은닉 특징을 드래프트 모델 각 층의 Key-Value 투영에 주입해 수용 길이가 드래프트 깊이에 따라 증가하도록 한 것이다.
핵심 정보
DFlash는 UC San Diego 팀이 제안한 투기적 디코딩용 경량 블록 확산 드래프트 모델이다.
한 번의 순방향 추론으로 토큰 블록 전체를 생성한 뒤 대상 모델이 병렬 검증해 출력 무손실을 보장한다.
EAGLE-3 대비 최대 2.
5배 가속을 구현했으며 Qwen3-8B 등 여러 모델에서 평균 무손실 가속이 6배를 넘는다(MATH-500에서 6.
NVIDIA Blackwell(TensorRT-LLM)에서 gpt-oss-120b 모델 처리량이 최대 15배 향상되어 EAGLE-3의 약 1.