Answer.AI et LightOn lancent le modèle encodeur ModernBERT, avec des séquences de 8192 et surpassant BERT
Titre original:Finally, a Replacement for BERT: Introducing ModernBERT
Résumé IA
Answer.AI et LightOn lancent la série de modèles encodeurs ModernBERT, proposée en deux tailles, base (149M paramètres) et large (395M paramètres), et utilisable comme remplacement direct des modèles de type BERT.
Points clés
- Answer.
- AI et LightOn lancent la série de modèles encodeurs ModernBERT,proposée en deux tailles,base (149M…
- et utilisable comme remplacement direct des modèles de type BERT.
En bref
- Publié
- Mis à jour
- Source
- Hugging Face 社区博客(混合发现)
- Catégorie
- Sorties de modèles
- Score IA
- 71
原文详细披露了架构改进、训练数据和实测效率数字,读者可据此评估它在现有 BERT 类工作流中能否直接替换。
Source et droits
Cet article s'appuie sur des titres sélectionnés et des résumés IA issus de l'API publique AIHOT, avec attribution et liens de retour. Les droits sur l'original restent ceux des médias et auteurs d'origine ; ce site ne reproduit pas les textes intégraux.
Comment citer
Pour citer cet article, conservez le titre, la date et le lien permanent, et indiquez Orange News comme source.
Orange News : Answer.AI et LightOn lancent le modèle encodeur ModernBERT, avec des séquences de 8192 et surpassant BERT. 19. décembre 2024. https://new.nat6.net/fr/news/yji28f1gnjnxjb9m5x1evdpiv/