Tutorials & Tipps

Step 3.7 Flash: 198B-Visionsmodell für Desktop-Geräte

Originaltitel:A 198B vision model, running on a box that sits on a desk. This is what we built Step 3.7 Flash for....

KI-Zusammenfassung

StepFun hat Step 3.7 Flash veröffentlicht, ein Visionsmodell mit 198B Parametern, das auf Desktop-Geräten wie DGX Spark laufen soll. Nutzertests zeigen, dass 128 GB Unified Memory die Mindestanforderung sind; das Modell belegt etwa 104 GB. Für die Bereitstellung ist kein offizieller spezieller llama.cpp-Branch erforderlich, die Hauptversion genügt. Bei der Kontextlänge gibt es Kompromisse: Mit aktivierter Visionsfunktion liegt die Obergrenze bei 64K auf Basis des q8-KV-Cache; für den maximalen Kontext von 256K muss die Visionsfunktion deaktiviert und auf q4-KV-Cache umgestellt werden, wobei Modell und Cache zusammen etwa 114 GB Speicher belegen. Das Modell ist ein Reasoning-Modell; der Denkprozess kann viele max_tokens verbrauchen, was bei der Einstellung beachtet werden sollte.

Kernpunkte

  • StepFun hat Step 3.
  • 7 Flash veröffentlicht,ein Visionsmodell mit 198B Parametern,das auf Desktop-Geräten wie DGX Spark…
  • Nutzertests zeigen,dass 128 GB Unified Memory die Mindestanforderung sind
  • das Modell belegt etwa 104 GB.
  • Für die Bereitstellung ist kein offizieller spezieller llama.

Auf einen Blick

Veröffentlicht
Aktualisiert
Quelle
X:阶跃星辰 StepFun (@StepFun_ai)
Kategorie
Tutorials & Tipps
KI-Bewertung
80
Original lesen Den vollständigen Artikel bei der Originalquelle lesen
Warum es wichtig ist

把 198B 的视觉模型塞进一台桌面盒子,还跑通了,这本身就是个小里程碑。更关键的是,这篇实战直接帮你绕开了三个大坑,省下的三小时够你喝杯咖啡慢慢试了。

Verwandte Entitäten

Quelle & Urheberrecht

Dieser Artikel basiert auf kuratierten Titeln und KI-Zusammenfassungen der öffentlichen AIHOT-API, mit Quellenangabe und Rückverlinkung. Das Urheberrecht am Original liegt bei den ursprünglichen Medien und Autoren; diese Seite spiegelt keine Volltexte.

Originalartikel · AIHOT-Eintrag

Zitierhinweis

Beim Zitieren dieses Artikels bitte Titel, Datum und Permalink beibehalten und Orange News als Quelle angeben.

Orange News: Step 3.7 Flash: 198B-Visionsmodell für Desktop-Geräte. 31. Mai 2026. https://new.nat6.net/de/news/cmptg4k4t09zzsluzw0x9fbxd/

Alle ansehen →