TII lance la série Falcon-Edge de modèles de langage BitNet à 1,58 bit, en versions 1B et 3B
Titre original:Falcon-Edge: A series of powerful, universal, fine-tunable 1.58bit language models.
Résumé IA
La série Falcon-Edge de TII repose sur l'architecture BitNet, pré-entraînée directement avec des poids ternaires {-1, 0, 1}, et propose deux tailles de paramètres, 1B et 3B, chacune en versions base et instruct. Les modèles sont pré-entraînés sur un mélange de données internes d'environ 1,5 Tera Tokens.
Points clés
- La série Falcon-Edge de TII repose sur l'architecture BitNet,pré-entraînée directement avec des…
- et propose deux tailles de paramètres,1B et 3B,chacune en versions base et instruct.
- Les modèles sont pré-entraînés sur un mélange de données internes d'environ 1,5 Tera Tokens.
En bref
- Publié
- Mis à jour
- Source
- Hugging Face 社区博客(混合发现)
- Catégorie
- Sorties de modèles
- Score IA
- 64
原文解释了 BitNet 三值权重的训练范式和微调路径,读者可以据此判断 1.58bit 模型在端侧部署的适用性。
Source et droits
Cet article s'appuie sur des titres sélectionnés et des résumés IA issus de l'API publique AIHOT, avec attribution et liens de retour. Les droits sur l'original restent ceux des médias et auteurs d'origine ; ce site ne reproduit pas les textes intégraux.
Comment citer
Pour citer cet article, conservez le titre, la date et le lien permanent, et indiquez Orange News comme source.
Orange News : TII lance la série Falcon-Edge de modèles de langage BitNet à 1,58 bit, en versions 1B et 3B. 15. mai 2025. https://new.nat6.net/fr/news/fm425yt03kg5jtbfgp99um7jm/