SpecForge v0.3.0 phát hành: thống nhất ngăn xếp giải mã suy đoán tách rời và đồng vị trí, thêm mô hình nháp SpecBundle mở
Tiêu đề gốc:Blog SpecForge v0.3.0: a Unified Disaggregated and Colocated Speculative Decoding Stack, and New Open SpecBundle Draft Models When we first released SpecForge, a training job owned both the frozen target model and the draft model being optimized. This made EAGLE3 draft-model training practical and directly compatible with SG... The SpecForge Team
Tóm tắt AI
SpecForge v0.3.0 tách rời suy luận mô hình đích và huấn luyện mô hình nháp, hỗ trợ nhiều thuật toán giải mã suy đoán như EAGLE3, EAGLE3.1, P-EAGLE, DFlash, Domino, DSpark, đồng thời thống nhất quy trình trực tuyến, ngoại tuyến và tách rời.
Thông tin chính
- SpecForge v0.
- 0 tách rời suy luận mô hình đích và huấn luyện mô hình nháp,hỗ trợ nhiều thuật toán giải mã suy…
- 1,P-EAGLE,DFlash,Domino,DSpark,đồng thời thống nhất quy trình trực tuyến,ngoại tuyến và tách rời.
Tóm tắt nhanh
- Đăng lúc
- Cập nhật lúc
- Nguồn
- LMSYS Blog
- Danh mục
- Sản phẩm & ứng dụng
- Điểm AI
- 72
将目标模型推理与草稿模型训练分离,让两种工作负载可独立扩缩,改变了投机解码训练中资源配比必须硬编码的旧模式,资源规划可按模型和序列长度灵活调整。
Nguồn và bản quyền
Bài viết này được tổng hợp dựa trên các tiêu đề chọn lọc và tóm tắt AI từ API công khai của AIHOT, đã ghi rõ nguồn và liên kết ngược; bản quyền nội dung gốc thuộc về cơ quan truyền thông và tác giả gốc, trang này không sao chép toàn văn.
Cách trích dẫn
Khi trích dẫn bài viết này, vui lòng giữ nguyên tiêu đề, ngày đăng và liên kết vĩnh viễn, đồng thời ghi rõ nguồn là Orange News.
Orange News: SpecForge v0.3.0 phát hành: thống nhất ngăn xếp giải mã suy đoán tách rời và đồng vị trí, thêm mô hình nháp SpecBundle mở. 4 tháng 8 2026. https://new.nat6.net/vi/news/cmseyfjcz1au8ro2enx0b7os6/