DiffusionGemma 공개: 텍스트 확산 모델로 추론 4배 가속
원제목:DiffusionGemma: 4x faster text generation
AI 요약
Google이 텍스트 확산 기술로 256 token 블록을 병렬 생성해 추론 속도를 최대 4배 높인 실험적 오픈소스 모델 DiffusionGemma를 공개했다. 26B MoE 모델로 3.8B 파라미터만 활성화되며, 양자화 후 18GB VRAM 소비자용 GPU에 적합하고 단일 H100에서 1000+ tokens/s를 달성한다.
핵심 정보
- Google이 텍스트 확산 기술로 256 token 블록을 병렬 생성해 추론 속도를 최대 4배 높인 실험적 오픈소스 모델 DiffusionGemma를 공개했다.
- 26B MoE 모델로 3.
- 8B 파라미터만 활성화되며,양자화 후 18GB VRAM 소비자용 GPU에 적합하고 단일 H100에서 1000+ tokens/s를 달성한다.
한눈에 보기
- 게시
- 업데이트
- 카테고리
- 모델 출시
- AI 점수
- 68
추천 이유
Google把扩散模型首次做进大语言模型,生文速度提升4倍,还开源了权重。虽然实验性质量打折,但本地实时交互的开发者终于有个新选项可以玩了。
관련 엔티티
출처 및 저작권
이 기사는 AIHOT 공개 API가 제공하는 선별 제목과 AI 요약을 바탕으로 하며, 출처를 밝히고 원문으로 연결합니다. 원문 저작권은 원 미디어와 저자에게 있으며, 본 사이트는 전문을 전재하지 않습니다.
인용 방법
본문을 인용할 때는 제목, 날짜, 영구 링크를 유지하고 출처를 Orange News(으)로 표기해 주세요.
Orange News: DiffusionGemma 공개: 텍스트 확산 모델로 추론 4배 가속. 2026년 7월 14일. https://new.nat6.net/ko/news/cms3dqexj0aviro3fnuu5mxbg/