Productos y aplicaciones

vLLM implementa el soporte Day-0 de TML Inkling y completa la optimización del rendimiento de inferencia

Título original:TML Inkling on vLLM: Day-0 Support with Optimized Performance

Resumen de IA

vLLM anuncia soporte Day-0 para TML Inkling, el modelo multimodal de 1T parámetros de Thinking Machines Lab, en las versiones thinkingmachines/Inkling-NVFP4 y BF16, con entrada de texto, imagen y audio y contextos de hasta 1M tokens.

Puntos clave

  • vLLM anuncia soporte Day-0 para TML Inkling,el modelo multimodal de 1T parámetros de Thinking…
  • en las versiones thinkingmachines/Inkling-NVFP4 y BF16
  • con entrada de texto,imagen y audio y contextos de hasta 1M tokens.

Resumen rápido

Publicado
Actualizado
Fuente
vLLM 官方博客(RSS)
Categoría
Productos y aplicaciones
Puntuación IA
74
Leer el original Leer el artículo completo en la fuente original
Por qué importa

原文给出 Day-0 支持的具体性能数字、架构优化细节和精度对比,读者可以评估该模型在自己的推理工作流中的可用性。

Fuente y derechos

Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.

Artículo original · Ficha de AIHOT

Cómo citar

Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.

Orange News: vLLM implementa el soporte Day-0 de TML Inkling y completa la optimización del rendimiento de inferencia. 15. julio 2026. https://new.nat6.net/es/news/cmtym20dg000qrovu8y7mff6t/

Ver todo →