vLLM реализовала Day-0 поддержку TML Inkling и оптимизировала инференс
Оригинальный заголовок:TML Inkling on vLLM: Day-0 Support with Optimized Performance
ИИ-резюме
vLLM объявила о Day-0 поддержке мультимодальной модели Thinking Machines Lab TML Inkling на 1T параметров в версиях thinkingmachines/Inkling-NVFP4 и BF16 с поддержкой текста, изображений и аудио и контекстом до 1M токенов.
Кратко
- Опубликовано
- Обновлено
- Источник
- vLLM 官方博客(RSS)
- Категория
- Продукты и приложения
- Оценка ИИ
- 74
原文给出 Day-0 支持的具体性能数字、架构优化细节和精度对比,读者可以评估该模型在自己的推理工作流中的可用性。
Источник и авторские права
Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.
Как цитировать
При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.
Orange News: vLLM реализовала Day-0 поддержку TML Inkling и оптимизировала инференс. 15 июля 2026. https://new.nat6.net/ru/news/cmtym20dg000qrovu8y7mff6t/