Paglabas ng modelo

Inilunsad ng inclusionAI ang DSpark speculative decoding model na Ling3-DSpark para sa Ling-3.0-flash

Orihinal na pamagat:inclusionAI/Ling-3.0-flash-dspark

AI summary

Inilunsad ng inclusionAI ang Ling3-DSpark, isang DSpark speculative decoding model na dinisenyo para sa Ling-3.0-flash, na may 1.36B na parameter at dynamic na pagpili ng bilang ng draft token sa pamamagitan ng confidence head. Sa siyam na benchmark kabilang ang GSM8K, ang average na accepted length ay 5.29, at umabot sa 6.40 sa GSM8K. Sinanay ang modelo sa SpecForge at maaaring i-deploy sa pamamagitan ng SGLang.

Mahahalagang impormasyon

  • Inilunsad ng inclusionAI ang Ling3-DSpark,isang DSpark speculative decoding model na dinisenyo…
  • 0-flash,na may 1.
  • 36B na parameter at dynamic na pagpili ng bilang ng draft token sa pamamagitan ng confidence head.
  • Sa siyam na benchmark kabilang ang GSM8K,ang average na accepted length ay 5.
  • 29,at umabot sa 6.

Mabilisang tingin

Na-publish noong
Na-update noong
Pinagmulan
蚂蚁 inclusionAI:HuggingFace 新模型
Kategorya
Paglabas ng modelo
AI na marka
60
Basahin ang orihinal Basahin ang buong artikulo sa orihinal na pinagmulan
Dahilan ng rekomendasyon

该模型把投机解码的接受长度按工作负载分开报告,数学与代码任务明显高于对话类,部署时可据此对不同场景的加速收益有更实际预期。

Pinagmulan at copyright

Ang artikulong ito ay batay sa mga piling pamagat at AI summary mula sa pampublikong API ng AIHOT, may nakasaad na pinagmulan at backlink; ang copyright ng orihinal na teksto ay pag-aari ng orihinal na media at may-akda, hindi namin ginagaya ang buong teksto.

Link ng orihinal · Entry sa AIHOT

Paano banggitin

Kapag binabanggit ang artikulong ito, panatilihin ang pamagat, petsa at permanenteng link, at banggitin ang Orange News bilang pinagmulan.

Orange News: Inilunsad ng inclusionAI ang DSpark speculative decoding model na Ling3-DSpark para sa Ling-3.0-flash. 9 Agosto 2026. https://new.nat6.net/fil/news/cmt333krj0fv5ro6tjw6bmtb2/

Tingnan lahat →