Answer.AI at LightOn inilabas ang ModernBERT encoder model, sumusuporta sa 8192 sequence length at lumalampas sa BERT
Orihinal na pamagat:Finally, a Replacement for BERT: Introducing ModernBERT
AI summary
Inilabas ng Answer.AI at LightOn ang serye ng ModernBERT encoder model, na may dalawang bersyon: base (149M parameter) at large (395M parameter), at maaaring direktang ipalit sa mga modelong tulad ng BERT.
Mahahalagang impormasyon
- Inilabas ng Answer.
- AI at LightOn ang serye ng ModernBERT encoder model,na may dalawang bersyon: base (149M parameter)…
- at maaaring direktang ipalit sa mga modelong tulad ng BERT.
Mabilisang tingin
- Na-publish noong
- Na-update noong
- Pinagmulan
- Hugging Face 社区博客(混合发现)
- Kategorya
- Paglabas ng modelo
- AI na marka
- 71
原文详细披露了架构改进、训练数据和实测效率数字,读者可据此评估它在现有 BERT 类工作流中能否直接替换。
Pinagmulan at copyright
Ang artikulong ito ay batay sa mga piling pamagat at AI summary mula sa pampublikong API ng AIHOT, may nakasaad na pinagmulan at backlink; ang copyright ng orihinal na teksto ay pag-aari ng orihinal na media at may-akda, hindi namin ginagaya ang buong teksto.
Paano banggitin
Kapag binabanggit ang artikulong ito, panatilihin ang pamagat, petsa at permanenteng link, at banggitin ang Orange News bilang pinagmulan.
Orange News: Answer.AI at LightOn inilabas ang ModernBERT encoder model, sumusuporta sa 8192 sequence length at lumalampas sa BERT. 19 Disyembre 2024. https://new.nat6.net/fil/news/yji28f1gnjnxjb9m5x1evdpiv/