Step 3.7 Flash: model visual 198B yang dapat berjalan di perangkat kelas desktop
Judul asli:A 198B vision model, running on a box that sits on a desk. This is what we built Step 3.7 Flash for....
Ringkasan AI
StepFun merilis Step 3.7 Flash, model visual dengan 198B parameter yang dirancang untuk berjalan di perangkat desktop seperti DGX Spark. Pengujian pengguna menunjukkan bahwa memori terpadu 128GB menjadi ambang batas, dengan model memakan sekitar 104GB. Penerapan tidak memerlukan cabang llama.cpp khusus resmi; versi mainline sudah cukup. Ada trade-off pada panjang konteks: saat fitur visual diaktifkan, batasnya 64K dengan q8 KV cache; untuk menggunakan konteks maksimum 256K, fitur visual harus dinonaktifkan dan beralih ke q4 KV cache, dengan model dan cache memakai sekitar 114GB memori. Model ini adalah model penalaran, sehingga proses berpikir dapat menghabiskan banyak max_tokens dan perlu diperhatikan pengaturannya.
Poin utama
- StepFun merilis Step 3.
- 7 Flash,model visual dengan 198B parameter yang dirancang untuk berjalan di perangkat desktop…
- Pengujian pengguna menunjukkan bahwa memori terpadu 128GB menjadi ambang batas,dengan model…
- Penerapan tidak memerlukan cabang llama.
- cpp khusus resmi
Ringkasan cepat
- Waktu terbit
- Waktu diperbarui
- Sumber
- X:阶跃星辰 StepFun (@StepFun_ai)
- Kategori
- Tutorial & Tips
- Skor AI
- 80
把 198B 的视觉模型塞进一台桌面盒子,还跑通了,这本身就是个小里程碑。更关键的是,这篇实战直接帮你绕开了三个大坑,省下的三小时够你喝杯咖啡慢慢试了。
Entitas Terkait
Sumber dan hak cipta
Artikel ini disusun berdasarkan judul pilihan dan ringkasan AI dari API publik AIHOT, dengan sumber yang dicantumkan dan tautan balik; hak cipta konten asli milik media dan penulis aslinya, situs ini tidak menyalin artikel secara penuh.
Cara mengutip
Saat mengutip artikel ini, sertakan judul, tanggal, dan tautan permanen, serta cantumkan sumber Orange News.
Orange News: Step 3.7 Flash: model visual 198B yang dapat berjalan di perangkat kelas desktop. 31 Mei 2026. https://new.nat6.net/id/news/cmptg4k4t09zzsluzw0x9fbxd/