Продукты и приложения

vLLM реализовала Day-0 поддержку TML Inkling и оптимизировала инференс

Оригинальный заголовок:TML Inkling on vLLM: Day-0 Support with Optimized Performance

ИИ-резюме

vLLM объявила о Day-0 поддержке мультимодальной модели Thinking Machines Lab TML Inkling на 1T параметров в версиях thinkingmachines/Inkling-NVFP4 и BF16 с поддержкой текста, изображений и аудио и контекстом до 1M токенов.

Кратко

Опубликовано
Обновлено
Источник
vLLM 官方博客(RSS)
Категория
Продукты и приложения
Оценка ИИ
74
Читать оригинал Читать полную статью в первоисточнике
Почему это важно

原文给出 Day-0 支持的具体性能数字、架构优化细节和精度对比,读者可以评估该模型在自己的推理工作流中的可用性。

Источник и авторские права

Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.

Оригинал статьи · Материал на AIHOT

Как цитировать

При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.

Orange News: vLLM реализовала Day-0 поддержку TML Inkling и оптимизировала инференс. 15 июля 2026. https://new.nat6.net/ru/news/cmtym20dg000qrovu8y7mff6t/

Смотреть все →