Продукты и приложения

Выпущен llm-d 1.0: нативный для Kubernetes распределённый инференс готов к production

Оригинальный заголовок:llm-d 1.0 hardens open-source AI inference for production

ИИ-резюме

Открытый проект инференса llm-d, который ведут IBM, Red Hat и Google, представил llm-d 1.0 на PyTorch Conference North America. Это нативный для Kubernetes фреймворк распределённого инференса, поддерживающий любые модели, ускорители и облака.

Ключевые моменты

  • Открытый проект инференса llm-d,который ведут IBM,Red Hat и Google,представил llm-d 1.
  • 0 на PyTorch Conference North America.
  • Это нативный для Kubernetes фреймворк распределённого инференса,поддерживающий любые…

Кратко

Опубликовано
Обновлено
Источник
IBM Research:AI
Категория
Продукты и приложения
Тема
Обновления продуктовЭкосистема открытого кодаИнженерия развёртывания
Оценка ИИ
60
Читать оригинал Читать полную статью в первоисточнике
Почему это важно

原文给出 llm-d 1.0 的具体能力变化和实测成本数据,读者可据此评估自建推理基础设施是否划算。

Темы

Связанные сущности

Источник и авторские права

Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.

Оригинал статьи · Материал на AIHOT

Как цитировать

При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.

Orange News: Выпущен llm-d 1.0: нативный для Kubernetes распределённый инференс готов к production. 20 октября 2026. https://new.nat6.net/ru/news/b1pcaa7ceghor24vjgsjagqqd/

Смотреть все →