Answer.AI и LightOn выпустили энкодер ModernBERT с поддержкой последовательностей длиной 8192 и превосходством над BERT
Оригинальный заголовок:Finally, a Replacement for BERT: Introducing ModernBERT
ИИ-резюме
Answer.AI и LightOn выпустили серию энкодеров ModernBERT в двух размерах — base (149M параметров) и large (395M параметров); модели могут служить прямой заменой моделям класса BERT.
Ключевые моменты
- Answer.
- AI и LightOn выпустили серию энкодеров ModernBERT в двух размерах — base (149M параметров) и large…
- модели могут служить прямой заменой моделям класса BERT.
Кратко
- Опубликовано
- Обновлено
- Источник
- Hugging Face 社区博客(混合发现)
- Категория
- Релизы моделей
- Оценка ИИ
- 71
原文详细披露了架构改进、训练数据和实测效率数字,读者可据此评估它在现有 BERT 类工作流中能否直接替换。
Источник и авторские права
Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.
Как цитировать
При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.
Orange News: Answer.AI и LightOn выпустили энкодер ModernBERT с поддержкой последовательностей длиной 8192 и превосходством над BERT. 19 декабря 2024. https://new.nat6.net/ru/news/yji28f1gnjnxjb9m5x1evdpiv/