TII выпустила языковые модели Falcon-Edge на 1,58 бита BitNet в размерах 1B и 3B
Оригинальный заголовок:Falcon-Edge: A series of powerful, universal, fine-tunable 1.58bit language models.
ИИ-резюме
Серия Falcon-Edge от TII основана на архитектуре BitNet и предобучена с троичными весами {-1, 0, 1}; доступны варианты на 1B и 3B параметров, каждый в версиях base и instruct. Модели предобучены на внутреннем наборе данных объёмом около 1,5 Tera Tokens.
Ключевые моменты
- Серия Falcon-Edge от TII основана на архитектуре BitNet и предобучена с троичными весами {-1,0,1}
- доступны варианты на 1B и 3B параметров,каждый в версиях base и instruct.
- Модели предобучены на внутреннем наборе данных объёмом около 1,5 Tera Tokens.
Кратко
- Опубликовано
- Обновлено
- Источник
- Hugging Face 社区博客(混合发现)
- Категория
- Релизы моделей
- Оценка ИИ
- 64
原文解释了 BitNet 三值权重的训练范式和微调路径,读者可以据此判断 1.58bit 模型在端侧部署的适用性。
Источник и авторские права
Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.
Как цитировать
При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.
Orange News: TII выпустила языковые модели Falcon-Edge на 1,58 бита BitNet в размерах 1B и 3B. 15 мая 2025. https://new.nat6.net/ru/news/fm425yt03kg5jtbfgp99um7jm/