Optimiser GPT-OSS sur NVIDIA DGX Spark : vers un déploiement local de grands modèles
Titre original:Tech Blog Optimizing GPT-OSS on NVIDIA DGX Spark: Getting the Most Out of Your Spark We’ve got some exciting updates about the NVIDIA DGX Spark\! In the week following the official launch, we collaborated closely with NVIDIA and successfully brought GPT-OSS 20B and GPT-OSS 120B suppor... Jerry Zhou November 3, 2025
Résumé IA
En partenariat avec NVIDIA, les modèles GPT-OSS 20B et 120B sont désormais pris en charge sur DGX Spark via SGLang, atteignant des vitesses de génération d'environ 70 tokens/s pour la version 20B et 50 tokens/s pour la version 120B, soit le meilleur niveau actuel. Les utilisateurs peuvent déployer le service SGLang via Docker et le connecter à Open WebUI pour un chat local, ou utiliser LMRouter pour convertir le format des requêtes afin de faire tourner Claude Code entièrement en local. Cette solution rend réalité le déploiement d'agents de codage locaux de plusieurs dizaines de milliards de paramètres sur DGX Spark.
Points clés
- En partenariat avec NVIDIA,les modèles GPT-OSS 20B et 120B sont désormais pris en charge sur DGX…
- Les utilisateurs peuvent déployer le service SGLang via Docker et le connecter à Open WebUI pour…
- Cette solution rend réalité le déploiement d'agents de codage locaux de plusieurs dizaines de…
En bref
- Publié
- Mis à jour
- Source
- LMSYS Blog
- Catégorie
- Autres
DGX Spark本地跑通Claude Code完全离线,隐私敏感开发者的新选择
Entités associées
Source et droits
Cet article s'appuie sur des titres sélectionnés et des résumés IA issus de l'API publique AIHOT, avec attribution et liens de retour. Les droits sur l'original restent ceux des médias et auteurs d'origine ; ce site ne reproduit pas les textes intégraux.
Comment citer
Pour citer cet article, conservez le titre, la date et le lien permanent, et indiquez Orange News comme source.
Orange News : Optimiser GPT-OSS sur NVIDIA DGX Spark : vers un déploiement local de grands modèles. 3. novembre 2025. https://new.nat6.net/fr/news/cmnxbjke50071sln0fe680fef/