Step 3.7 Flash: визуальная модель на 198B, работающая на настольных устройствах
Оригинальный заголовок:A 198B vision model, running on a box that sits on a desk. This is what we built Step 3.7 Flash for....
ИИ-резюме
StepFun выпустила Step 3.7 Flash — визуальную модель с 198B параметров, предназначенную для работы на таких настольных устройствах, как DGX Spark. Практические тесты пользователей показывают, что порогом для запуска является 128 ГБ унифицированной памяти, модель занимает около 104 ГБ. Для развёртывания не требуется официальная специальная ветка llama.cpp — подходит основная версия. Есть компромисс по длине контекста: при включённых визуальных функциях верхний предел составляет 64K на основе q8 KV cache; чтобы использовать максимальный контекст 256K, нужно отключить визуальные функции и переключиться на q4 KV cache, при этом модель и кэш вместе занимают около 114 ГБ памяти. Это модель рассуждения, и процесс размышления может расходовать много max_tokens, на что следует обращать внимание при настройке.
Ключевые моменты
- StepFun выпустила Step 3.
- 7 Flash — визуальную модель с 198B параметров,предназначенную для работы на таких настольных…
- Практические тесты пользователей показывают,что порогом для запуска является 128 ГБ…
- Для развёртывания не требуется официальная специальная ветка llama.
- cpp — подходит основная версия.
Кратко
- Опубликовано
- Обновлено
- Источник
- X:阶跃星辰 StepFun (@StepFun_ai)
- Категория
- Туториалы и советы
- Оценка ИИ
- 80
把 198B 的视觉模型塞进一台桌面盒子,还跑通了,这本身就是个小里程碑。更关键的是,这篇实战直接帮你绕开了三个大坑,省下的三小时够你喝杯咖啡慢慢试了。
Связанные сущности
Источник и авторские права
Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.
Как цитировать
При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.
Orange News: Step 3.7 Flash: визуальная модель на 198B, работающая на настольных устройствах. 31 мая 2026. https://new.nat6.net/ru/news/cmptg4k4t09zzsluzw0x9fbxd/