Step 3.7 Flash: 198B-Visionsmodell für Desktop-Geräte
Originaltitel:A 198B vision model, running on a box that sits on a desk. This is what we built Step 3.7 Flash for....
KI-Zusammenfassung
StepFun hat Step 3.7 Flash veröffentlicht, ein Visionsmodell mit 198B Parametern, das auf Desktop-Geräten wie DGX Spark laufen soll. Nutzertests zeigen, dass 128 GB Unified Memory die Mindestanforderung sind; das Modell belegt etwa 104 GB. Für die Bereitstellung ist kein offizieller spezieller llama.cpp-Branch erforderlich, die Hauptversion genügt. Bei der Kontextlänge gibt es Kompromisse: Mit aktivierter Visionsfunktion liegt die Obergrenze bei 64K auf Basis des q8-KV-Cache; für den maximalen Kontext von 256K muss die Visionsfunktion deaktiviert und auf q4-KV-Cache umgestellt werden, wobei Modell und Cache zusammen etwa 114 GB Speicher belegen. Das Modell ist ein Reasoning-Modell; der Denkprozess kann viele max_tokens verbrauchen, was bei der Einstellung beachtet werden sollte.
Kernpunkte
- StepFun hat Step 3.
- 7 Flash veröffentlicht,ein Visionsmodell mit 198B Parametern,das auf Desktop-Geräten wie DGX Spark…
- Nutzertests zeigen,dass 128 GB Unified Memory die Mindestanforderung sind
- das Modell belegt etwa 104 GB.
- Für die Bereitstellung ist kein offizieller spezieller llama.
Auf einen Blick
- Veröffentlicht
- Aktualisiert
- Quelle
- X:阶跃星辰 StepFun (@StepFun_ai)
- Kategorie
- Tutorials & Tipps
- KI-Bewertung
- 80
把 198B 的视觉模型塞进一台桌面盒子,还跑通了,这本身就是个小里程碑。更关键的是,这篇实战直接帮你绕开了三个大坑,省下的三小时够你喝杯咖啡慢慢试了。
Verwandte Entitäten
Quelle & Urheberrecht
Dieser Artikel basiert auf kuratierten Titeln und KI-Zusammenfassungen der öffentlichen AIHOT-API, mit Quellenangabe und Rückverlinkung. Das Urheberrecht am Original liegt bei den ursprünglichen Medien und Autoren; diese Seite spiegelt keine Volltexte.
Zitierhinweis
Beim Zitieren dieses Artikels bitte Titel, Datum und Permalink beibehalten und Orange News als Quelle angeben.
Orange News: Step 3.7 Flash: 198B-Visionsmodell für Desktop-Geräte. 31. Mai 2026. https://new.nat6.net/de/news/cmptg4k4t09zzsluzw0x9fbxd/