llm-d 1.0 : le service d'inférence distribué natif Kubernetes devient prêt pour la production
Titre original:llm-d 1.0 hardens open-source AI inference for production
Résumé IA
Porté par IBM, Red Hat et Google, le projet open source d'inférence llm-d publie la version 1.0 lors de la PyTorch Conference North America : un framework de service d'inférence distribué natif Kubernetes, compatible avec tout modèle, tout accélérateur et tout cloud.
Points clés
- Porté par IBM,Red Hat et Google,le projet open source d'inférence llm-d publie la version 1.
- 0 lors de la PyTorch Conference North America: un framework de service d'inférence distribué natif…
- compatible avec tout modèle,tout accélérateur et tout cloud.
En bref
- Publié
- Mis à jour
- Source
- IBM Research:AI
- Catégorie
- Produits et applications
- Score IA
- 60
原文给出 llm-d 1.0 的具体能力变化和实测成本数据,读者可据此评估自建推理基础设施是否划算。
Sujets
Entités associées
Source et droits
Cet article s'appuie sur des titres sélectionnés et des résumés IA issus de l'API publique AIHOT, avec attribution et liens de retour. Les droits sur l'original restent ceux des médias et auteurs d'origine ; ce site ne reproduit pas les textes intégraux.
Comment citer
Pour citer cet article, conservez le titre, la date et le lien permanent, et indiquez Orange News comme source.
Orange News : llm-d 1.0 : le service d'inférence distribué natif Kubernetes devient prêt pour la production. 20. octobre 2026. https://new.nat6.net/fr/news/b1pcaa7ceghor24vjgsjagqqd/