Step 3.7 Flash : un modèle visuel de 198B exécutable sur des appareils de bureau
Titre original:A 198B vision model, running on a box that sits on a desk. This is what we built Step 3.7 Flash for....
Résumé IA
StepFun a publié Step 3.7 Flash, un modèle visuel de 198B paramètres conçu pour fonctionner sur des appareils de bureau comme le DGX Spark. Les tests utilisateurs montrent que 128 Go de mémoire unifiée constituent le seuil requis, le modèle occupant environ 104 Go. Le déploiement ne nécessite pas la branche llama.cpp officielle dédiée ; la version principale suffit. Il existe un compromis sur la longueur de contexte : avec la vision activée, la limite est de 64K avec un cache KV q8 ; pour utiliser un contexte maximal de 256K, il faut désactiver la vision et passer à un cache KV q4, le modèle et le cache occupant alors environ 114 Go de mémoire. Ce modèle est un modèle de raisonnement, dont le processus de réflexion peut consommer beaucoup de max_tokens ; il convient d'y prêter attention lors du réglage.
Points clés
- StepFun a publié Step 3.
- 7 Flash,un modèle visuel de 198B paramètres conçu pour fonctionner sur des appareils de bureau…
- Les tests utilisateurs montrent que 128 Go de mémoire unifiée constituent le seuil requis,le…
- Le déploiement ne nécessite pas la branche llama.
- cpp officielle dédiée
En bref
- Publié
- Mis à jour
- Source
- X:阶跃星辰 StepFun (@StepFun_ai)
- Catégorie
- Tutoriels et astuces
- Score IA
- 80
把 198B 的视觉模型塞进一台桌面盒子,还跑通了,这本身就是个小里程碑。更关键的是,这篇实战直接帮你绕开了三个大坑,省下的三小时够你喝杯咖啡慢慢试了。
Entités associées
Source et droits
Cet article s'appuie sur des titres sélectionnés et des résumés IA issus de l'API publique AIHOT, avec attribution et liens de retour. Les droits sur l'original restent ceux des médias et auteurs d'origine ; ce site ne reproduit pas les textes intégraux.
Comment citer
Pour citer cet article, conservez le titre, la date et le lien permanent, et indiquez Orange News comme source.
Orange News : Step 3.7 Flash : un modèle visuel de 198B exécutable sur des appareils de bureau. 31. mai 2026. https://new.nat6.net/fr/news/cmptg4k4t09zzsluzw0x9fbxd/