Produk & Aplikasi

vLLM mewujudkan dukungan Day-0 TML Inkling dan menyelesaikan optimasi performa penalaran

Judul asli:TML Inkling on vLLM: Day-0 Support with Optimized Performance

Ringkasan AI

vLLM mengumumkan dukungan Day-0 untuk TML Inkling, model multimodal 1T parameter dari Thinking Machines Lab, mencakup versi thinkingmachines/Inkling-NVFP4 dan BF16, mendukung masukan teks, gambar, dan audio serta konteks hingga 1M token.

Poin utama

  • vLLM mengumumkan dukungan Day-0 untuk TML Inkling,model multimodal 1T parameter dari Thinking…
  • mencakup versi thinkingmachines/Inkling-NVFP4 dan BF16
  • mendukung masukan teks,gambar,dan audio serta konteks hingga 1M token.

Ringkasan cepat

Waktu terbit
Waktu diperbarui
Sumber
vLLM 官方博客(RSS)
Kategori
Produk & Aplikasi
Skor AI
74
Baca aslinya Baca artikel lengkap di sumber aslinya
Alasan rekomendasi

原文给出 Day-0 支持的具体性能数字、架构优化细节和精度对比,读者可以评估该模型在自己的推理工作流中的可用性。

Sumber dan hak cipta

Artikel ini disusun berdasarkan judul pilihan dan ringkasan AI dari API publik AIHOT, dengan sumber yang dicantumkan dan tautan balik; hak cipta konten asli milik media dan penulis aslinya, situs ini tidak menyalin artikel secara penuh.

Tautan asli · Entri AIHOT

Cara mengutip

Saat mengutip artikel ini, sertakan judul, tanggal, dan tautan permanen, serta cantumkan sumber Orange News.

Orange News: vLLM mewujudkan dukungan Day-0 TML Inkling dan menyelesaikan optimasi performa penalaran. 15 Juli 2026. https://new.nat6.net/id/news/cmtym20dg000qrovu8y7mff6t/

Lihat semua →