Ra mắt mô hình

DiffusionGemma ra mắt: mô hình khuếch tán văn bản tăng tốc suy luận gấp 4 lần

Tiêu đề gốc:DiffusionGemma: 4x faster text generation

Tóm tắt AI

Google phát hành mô hình mã nguồn mở thử nghiệm DiffusionGemma, sử dụng kỹ thuật khuếch tán văn bản để sinh song song các khối 256 token, tốc độ suy luận tăng tối đa 4 lần. Mô hình MoE 26B này chỉ kích hoạt 3,8B tham số, sau lượng tử hóa phù hợp GPU tiêu dùng 18GB VRAM, đạt hơn 1000 token/giây trên một H100.

Thông tin chính

  • Google phát hành mô hình mã nguồn mở thử nghiệm DiffusionGemma,sử dụng kỹ thuật khuếch tán văn bản…
  • tốc độ suy luận tăng tối đa 4 lần.
  • Mô hình MoE 26B này chỉ kích hoạt 3,8B tham số,sau lượng tử hóa phù hợp GPU tiêu dùng 18GB…

Tóm tắt nhanh

Đăng lúc
Cập nhật lúc
Nguồn
Google AI:DEV 作者专属(RSS)
Danh mục
Ra mắt mô hình
Điểm AI
68
Đọc bản gốc Đọc toàn văn tại nguồn tin gốc
Lý do đề xuất

Google把扩散模型首次做进大语言模型,生文速度提升4倍,还开源了权重。虽然实验性质量打折,但本地实时交互的开发者终于有个新选项可以玩了。

Thực thể liên quan

Nguồn và bản quyền

Bài viết này được tổng hợp dựa trên các tiêu đề chọn lọc và tóm tắt AI từ API công khai của AIHOT, đã ghi rõ nguồn và liên kết ngược; bản quyền nội dung gốc thuộc về cơ quan truyền thông và tác giả gốc, trang này không sao chép toàn văn.

Liên kết gốc · Mục AIHOT

Cách trích dẫn

Khi trích dẫn bài viết này, vui lòng giữ nguyên tiêu đề, ngày đăng và liên kết vĩnh viễn, đồng thời ghi rõ nguồn là Orange News.

Orange News: DiffusionGemma ra mắt: mô hình khuếch tán văn bản tăng tốc suy luận gấp 4 lần. 14 tháng 7 2026. https://new.nat6.net/vi/news/cms3dqexj0aviro3fnuu5mxbg/

Xem tất cả →