Autres

Optimiser GPT-OSS sur NVIDIA DGX Spark : vers un déploiement local de grands modèles

Titre original:Tech Blog Optimizing GPT-OSS on NVIDIA DGX Spark: Getting the Most Out of Your Spark We’ve got some exciting updates about the NVIDIA DGX Spark\! In the week following the official launch, we collaborated closely with NVIDIA and successfully brought GPT-OSS 20B and GPT-OSS 120B suppor... Jerry Zhou November 3, 2025

Résumé IA

En partenariat avec NVIDIA, les modèles GPT-OSS 20B et 120B sont désormais pris en charge sur DGX Spark via SGLang, atteignant des vitesses de génération d'environ 70 tokens/s pour la version 20B et 50 tokens/s pour la version 120B, soit le meilleur niveau actuel. Les utilisateurs peuvent déployer le service SGLang via Docker et le connecter à Open WebUI pour un chat local, ou utiliser LMRouter pour convertir le format des requêtes afin de faire tourner Claude Code entièrement en local. Cette solution rend réalité le déploiement d'agents de codage locaux de plusieurs dizaines de milliards de paramètres sur DGX Spark.

Points clés

  • En partenariat avec NVIDIA,les modèles GPT-OSS 20B et 120B sont désormais pris en charge sur DGX…
  • Les utilisateurs peuvent déployer le service SGLang via Docker et le connecter à Open WebUI pour…
  • Cette solution rend réalité le déploiement d'agents de codage locaux de plusieurs dizaines de…

En bref

Publié
Mis à jour
Source
LMSYS Blog
Catégorie
Autres
Lire l'original Lire l'article complet à la source d'origine
Pourquoi c'est important

DGX Spark本地跑通Claude Code完全离线,隐私敏感开发者的新选择

Entités associées

Source et droits

Cet article s'appuie sur des titres sélectionnés et des résumés IA issus de l'API publique AIHOT, avec attribution et liens de retour. Les droits sur l'original restent ceux des médias et auteurs d'origine ; ce site ne reproduit pas les textes intégraux.

Article original · Fiche AIHOT

Comment citer

Pour citer cet article, conservez le titre, la date et le lien permanent, et indiquez Orange News comme source.

Orange News : Optimiser GPT-OSS sur NVIDIA DGX Spark : vers un déploiement local de grands modèles. 3. novembre 2025. https://new.nat6.net/fr/news/cmnxbjke50071sln0fe680fef/

Tout voir →