DiffusionGemma ra mắt: mô hình khuếch tán văn bản tăng tốc suy luận gấp 4 lần
Tiêu đề gốc:DiffusionGemma: 4x faster text generation
Tóm tắt AI
Google phát hành mô hình mã nguồn mở thử nghiệm DiffusionGemma, sử dụng kỹ thuật khuếch tán văn bản để sinh song song các khối 256 token, tốc độ suy luận tăng tối đa 4 lần. Mô hình MoE 26B này chỉ kích hoạt 3,8B tham số, sau lượng tử hóa phù hợp GPU tiêu dùng 18GB VRAM, đạt hơn 1000 token/giây trên một H100.
Thông tin chính
- Google phát hành mô hình mã nguồn mở thử nghiệm DiffusionGemma,sử dụng kỹ thuật khuếch tán văn bản…
- tốc độ suy luận tăng tối đa 4 lần.
- Mô hình MoE 26B này chỉ kích hoạt 3,8B tham số,sau lượng tử hóa phù hợp GPU tiêu dùng 18GB…
Tóm tắt nhanh
- Đăng lúc
- Cập nhật lúc
- Nguồn
- Google AI:DEV 作者专属(RSS)
- Danh mục
- Ra mắt mô hình
- Điểm AI
- 68
Google把扩散模型首次做进大语言模型,生文速度提升4倍,还开源了权重。虽然实验性质量打折,但本地实时交互的开发者终于有个新选项可以玩了。
Thực thể liên quan
Nguồn và bản quyền
Bài viết này được tổng hợp dựa trên các tiêu đề chọn lọc và tóm tắt AI từ API công khai của AIHOT, đã ghi rõ nguồn và liên kết ngược; bản quyền nội dung gốc thuộc về cơ quan truyền thông và tác giả gốc, trang này không sao chép toàn văn.
Cách trích dẫn
Khi trích dẫn bài viết này, vui lòng giữ nguyên tiêu đề, ngày đăng và liên kết vĩnh viễn, đồng thời ghi rõ nguồn là Orange News.
Orange News: DiffusionGemma ra mắt: mô hình khuếch tán văn bản tăng tốc suy luận gấp 4 lần. 14 tháng 7 2026. https://new.nat6.net/vi/news/cms3dqexj0aviro3fnuu5mxbg/