Tutorial dan petua

Step 3.7 Flash: model visual 198B yang boleh dijalankan pada peranti peringkat desktop

Tajuk asal:A 198B vision model, running on a box that sits on a desk. This is what we built Step 3.7 Flash for....

Ringkasan AI

StepFun melancarkan Step 3.7 Flash, model visual dengan 198B parameter yang bertujuan untuk dijalankan pada peranti desktop seperti DGX Spark. Ujian pengguna menunjukkan bahawa memori bersatu 128GB ialah ambang untuk menjalankannya, dengan model menggunakan kira-kira 104GB. Penggunaan tidak memerlukan cabang llama.cpp rasmi khusus, versi utama sudah memadai. Terdapat pertukaran dari segi panjang konteks: apabila ciri visual diaktifkan, had ialah 64K berdasarkan cache KV q8; untuk menggunakan konteks maksimum 256K, ciri visual perlu dinyahaktifkan dan beralih kepada cache KV q4, di mana model dan cache menggunakan kira-kira 114GB memori secara keseluruhan. Model ini ialah model penaakulan, dan proses pemikiran mungkin menggunakan banyak max_tokens, jadi tetapan perlu diberi perhatian.

Maklumat penting

  • StepFun melancarkan Step 3.
  • 7 Flash,model visual dengan 198B parameter yang bertujuan untuk dijalankan pada peranti desktop…
  • Ujian pengguna menunjukkan bahawa memori bersatu 128GB ialah ambang untuk menjalankannya,dengan…
  • Penggunaan tidak memerlukan cabang llama.
  • cpp rasmi khusus,versi utama sudah memadai.

Sekilas pandang

Diterbitkan pada
Dikemas kini pada
Sumber
X:阶跃星辰 StepFun (@StepFun_ai)
Kategori
Tutorial dan petua
Skor AI
80
Baca asal Baca artikel penuh di sumber asal
Sebab disyorkan

把 198B 的视觉模型塞进一台桌面盒子,还跑通了,这本身就是个小里程碑。更关键的是,这篇实战直接帮你绕开了三个大坑,省下的三小时够你喝杯咖啡慢慢试了。

Entiti Berkaitan

Sumber dan hak cipta

Artikel ini disusun berdasarkan tajuk pilihan dan ringkasan AI daripada API awam AIHOT, dengan sumber dinyatakan dan pautan balik disediakan; hak cipta teks asal milik media dan penulis asal, laman ini tidak menyalin penuh teks penuh.

Pautan asal · Entri AIHOT

Cara memetik

Apabila memetik artikel ini, kekalkan tajuk, tarikh dan pautan kekal, serta nyatakan sumber sebagai Orange News.

Orange News: Step 3.7 Flash: model visual 198B yang boleh dijalankan pada peranti peringkat desktop. 31 Mei 2026. https://new.nat6.net/ms/news/cmptg4k4t09zzsluzw0x9fbxd/

Lihat Semua →