vLLM implementa el soporte Day-0 de TML Inkling y completa la optimización del rendimiento de inferencia
Título original:TML Inkling on vLLM: Day-0 Support with Optimized Performance
Resumen de IA
vLLM anuncia soporte Day-0 para TML Inkling, el modelo multimodal de 1T parámetros de Thinking Machines Lab, en las versiones thinkingmachines/Inkling-NVFP4 y BF16, con entrada de texto, imagen y audio y contextos de hasta 1M tokens.
Puntos clave
- vLLM anuncia soporte Day-0 para TML Inkling,el modelo multimodal de 1T parámetros de Thinking…
- en las versiones thinkingmachines/Inkling-NVFP4 y BF16
- con entrada de texto,imagen y audio y contextos de hasta 1M tokens.
Resumen rápido
- Publicado
- Actualizado
- Fuente
- vLLM 官方博客(RSS)
- Categoría
- Productos y aplicaciones
- Puntuación IA
- 74
原文给出 Day-0 支持的具体性能数字、架构优化细节和精度对比,读者可以评估该模型在自己的推理工作流中的可用性。
Fuente y derechos
Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.
Cómo citar
Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.
Orange News: vLLM implementa el soporte Day-0 de TML Inkling y completa la optimización del rendimiento de inferencia. 15. julio 2026. https://new.nat6.net/es/news/cmtym20dg000qrovu8y7mff6t/