Step 3.7 Flash: un modelo visual de 198B que puede ejecutarse en dispositivos de escritorio
Título original:A 198B vision model, running on a box that sits on a desk. This is what we built Step 3.7 Flash for....
Resumen de IA
StepFun lanzó Step 3.7 Flash, un modelo visual de 198B parámetros diseñado para ejecutarse en dispositivos de escritorio como DGX Spark. Las pruebas de usuarios muestran que 128 GB de memoria unificada es el umbral para ejecutarlo, y el modelo ocupa unos 104 GB. El despliegue no requiere la rama oficial específica de llama.cpp; basta con la versión principal. Existe un compromiso en la longitud de contexto: al activar la función visual, el límite es de 64K con caché KV q8; para usar un contexto máximo de 256K, es necesario desactivar la función visual y cambiar a caché KV q4, en cuyo caso el modelo y la caché ocupan juntos unos 114 GB de memoria. El modelo es de razonamiento, y el proceso de pensamiento puede consumir una gran cantidad de max_tokens, por lo que hay que prestar atención a su configuración.
Puntos clave
- StepFun lanzó Step 3.
- 7 Flash,un modelo visual de 198B parámetros diseñado para ejecutarse en dispositivos de escritorio…
- Las pruebas de usuarios muestran que 128 GB de memoria unificada es el umbral para ejecutarlo,y el…
- El despliegue no requiere la rama oficial específica de llama.
- basta con la versión principal.
Resumen rápido
- Publicado
- Actualizado
- Fuente
- X:阶跃星辰 StepFun (@StepFun_ai)
- Categoría
- Tutoriales y consejos
- Puntuación IA
- 80
把 198B 的视觉模型塞进一台桌面盒子,还跑通了,这本身就是个小里程碑。更关键的是,这篇实战直接帮你绕开了三个大坑,省下的三小时够你喝杯咖啡慢慢试了。
Entidades relacionadas
Fuente y derechos
Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.
Cómo citar
Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.
Orange News: Step 3.7 Flash: un modelo visual de 198B que puede ejecutarse en dispositivos de escritorio. 31. mayo 2026. https://new.nat6.net/es/news/cmptg4k4t09zzsluzw0x9fbxd/