Выпущен llm-d 1.0: нативный для Kubernetes распределённый инференс готов к production
Оригинальный заголовок:llm-d 1.0 hardens open-source AI inference for production
ИИ-резюме
Открытый проект инференса llm-d, который ведут IBM, Red Hat и Google, представил llm-d 1.0 на PyTorch Conference North America. Это нативный для Kubernetes фреймворк распределённого инференса, поддерживающий любые модели, ускорители и облака.
Ключевые моменты
- Открытый проект инференса llm-d,который ведут IBM,Red Hat и Google,представил llm-d 1.
- 0 на PyTorch Conference North America.
- Это нативный для Kubernetes фреймворк распределённого инференса,поддерживающий любые…
Кратко
- Опубликовано
- Обновлено
- Источник
- IBM Research:AI
- Категория
- Продукты и приложения
- Оценка ИИ
- 60
原文给出 llm-d 1.0 的具体能力变化和实测成本数据,读者可据此评估自建推理基础设施是否划算。
Темы
Связанные сущности
Источник и авторские права
Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.
Как цитировать
При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.
Orange News: Выпущен llm-d 1.0: нативный для Kubernetes распределённый инференс готов к production. 20 октября 2026. https://new.nat6.net/ru/news/b1pcaa7ceghor24vjgsjagqqd/