DiffusionGemma: 텍스트 생성 속도 4배 향상된 오픈소스 확산 모델
원제목:DiffusionGemma: 4x faster text generation
AI 요약
Google DeepMind가 오픈소스 실험 모델 DiffusionGemma를 출시했습니다. 텍스트 확산 기술을 채택해 자기회귀적 토큰별 생성 방식을 넘어 매 전방 패스마다 256개 토큰을 병렬 생성합니다. 이 26B MoE 모델은 추론 시 3.8B 파라미터만 활성화하며, 양자화 후 18GB VRAM의 소비자용 GPU에 적합합니다. H100에서 1000+ tokens/s, RTX 5090에서 700+ tokens/s로 속도가 4배 향상되었습니다. 양방향 어텐션과 자기 수정 능력을 갖추고 인라인 편집, 코드 채우기 등 로컬 인터랙티브 워크플로를 겨냥하며 Apache 2.0 라이선스로 공개됩니다.
핵심 정보
- Google DeepMind가 오픈소스 실험 모델 DiffusionGemma를 출시했습니다.
- 텍스트 확산 기술을 채택해 자기회귀적 토큰별 생성 방식을 넘어 매 전방 패스마다 256개 토큰을 병렬 생성합니다.
- 이 26B MoE 모델은 추론 시 3.
- 8B 파라미터만 활성화하며,양자화 후 18GB VRAM의 소비자용 GPU에 적합합니다.
- H100에서 1000+ tokens/s,RTX 5090에서 700+ tokens/s로 속도가 4배 향상되었습니다.
한눈에 보기
- 게시
- 업데이트
- 카테고리
- 모델 출시
- AI 점수
- 72
DiffusionGemma 虽为实验性质,但它把文本生成从“串行打字机”变成了“并行印刷机”,本地推理速度 4 倍提升,对需要实时交互的开发者是个值得关注的方向。
관련 엔티티
출처 및 저작권
이 기사는 AIHOT 공개 API가 제공하는 선별 제목과 AI 요약을 바탕으로 하며, 출처를 밝히고 원문으로 연결합니다. 원문 저작권은 원 미디어와 저자에게 있으며, 본 사이트는 전문을 전재하지 않습니다.
인용 방법
본문을 인용할 때는 제목, 날짜, 영구 링크를 유지하고 출처를 Orange News(으)로 표기해 주세요.
Orange News: DiffusionGemma: 텍스트 생성 속도 4배 향상된 오픈소스 확산 모델. 2026년 6월 11일. https://new.nat6.net/ko/news/cmq8aoxud00ngslldd191n34b/