Step 3.7 Flash: model visual 198B yang boleh dijalankan pada peranti peringkat desktop
Tajuk asal:A 198B vision model, running on a box that sits on a desk. This is what we built Step 3.7 Flash for....
Ringkasan AI
StepFun melancarkan Step 3.7 Flash, model visual dengan 198B parameter yang bertujuan untuk dijalankan pada peranti desktop seperti DGX Spark. Ujian pengguna menunjukkan bahawa memori bersatu 128GB ialah ambang untuk menjalankannya, dengan model menggunakan kira-kira 104GB. Penggunaan tidak memerlukan cabang llama.cpp rasmi khusus, versi utama sudah memadai. Terdapat pertukaran dari segi panjang konteks: apabila ciri visual diaktifkan, had ialah 64K berdasarkan cache KV q8; untuk menggunakan konteks maksimum 256K, ciri visual perlu dinyahaktifkan dan beralih kepada cache KV q4, di mana model dan cache menggunakan kira-kira 114GB memori secara keseluruhan. Model ini ialah model penaakulan, dan proses pemikiran mungkin menggunakan banyak max_tokens, jadi tetapan perlu diberi perhatian.
Maklumat penting
- StepFun melancarkan Step 3.
- 7 Flash,model visual dengan 198B parameter yang bertujuan untuk dijalankan pada peranti desktop…
- Ujian pengguna menunjukkan bahawa memori bersatu 128GB ialah ambang untuk menjalankannya,dengan…
- Penggunaan tidak memerlukan cabang llama.
- cpp rasmi khusus,versi utama sudah memadai.
Sekilas pandang
- Diterbitkan pada
- Dikemas kini pada
- Sumber
- X:阶跃星辰 StepFun (@StepFun_ai)
- Kategori
- Tutorial dan petua
- Skor AI
- 80
把 198B 的视觉模型塞进一台桌面盒子,还跑通了,这本身就是个小里程碑。更关键的是,这篇实战直接帮你绕开了三个大坑,省下的三小时够你喝杯咖啡慢慢试了。
Entiti Berkaitan
Sumber dan hak cipta
Artikel ini disusun berdasarkan tajuk pilihan dan ringkasan AI daripada API awam AIHOT, dengan sumber dinyatakan dan pautan balik disediakan; hak cipta teks asal milik media dan penulis asal, laman ini tidak menyalin penuh teks penuh.
Cara memetik
Apabila memetik artikel ini, kekalkan tajuk, tarikh dan pautan kekal, serta nyatakan sumber sebagai Orange News.
Orange News: Step 3.7 Flash: model visual 198B yang boleh dijalankan pada peranti peringkat desktop. 31 Mei 2026. https://new.nat6.net/ms/news/cmptg4k4t09zzsluzw0x9fbxd/