vLLM mewujudkan dukungan Day-0 TML Inkling dan menyelesaikan optimasi performa penalaran
Judul asli:TML Inkling on vLLM: Day-0 Support with Optimized Performance
Ringkasan AI
vLLM mengumumkan dukungan Day-0 untuk TML Inkling, model multimodal 1T parameter dari Thinking Machines Lab, mencakup versi thinkingmachines/Inkling-NVFP4 dan BF16, mendukung masukan teks, gambar, dan audio serta konteks hingga 1M token.
Poin utama
- vLLM mengumumkan dukungan Day-0 untuk TML Inkling,model multimodal 1T parameter dari Thinking…
- mencakup versi thinkingmachines/Inkling-NVFP4 dan BF16
- mendukung masukan teks,gambar,dan audio serta konteks hingga 1M token.
Ringkasan cepat
- Waktu terbit
- Waktu diperbarui
- Sumber
- vLLM 官方博客(RSS)
- Kategori
- Produk & Aplikasi
- Skor AI
- 74
原文给出 Day-0 支持的具体性能数字、架构优化细节和精度对比,读者可以评估该模型在自己的推理工作流中的可用性。
Sumber dan hak cipta
Artikel ini disusun berdasarkan judul pilihan dan ringkasan AI dari API publik AIHOT, dengan sumber yang dicantumkan dan tautan balik; hak cipta konten asli milik media dan penulis aslinya, situs ini tidak menyalin artikel secara penuh.
Cara mengutip
Saat mengutip artikel ini, sertakan judul, tanggal, dan tautan permanen, serta cantumkan sumber Orange News.
Orange News: vLLM mewujudkan dukungan Day-0 TML Inkling dan menyelesaikan optimasi performa penalaran. 15 Juli 2026. https://new.nat6.net/id/news/cmtym20dg000qrovu8y7mff6t/