Оптимизация GPT-OSS на NVIDIA DGX Spark: локальное развёртывание больших моделей
Оригинальный заголовок:Tech Blog Optimizing GPT-OSS on NVIDIA DGX Spark: Getting the Most Out of Your Spark We’ve got some exciting updates about the NVIDIA DGX Spark\! In the week following the official launch, we collaborated closely with NVIDIA and successfully brought GPT-OSS 20B and GPT-OSS 120B suppor... Jerry Zhou November 3, 2025
ИИ-резюме
В сотрудничестве с NVIDIA на DGX Spark через SGLang удалось поддержать модели GPT-OSS 20B и 120B со скоростью генерации около 70 tokens/s для версии 20B и около 50 tokens/s для версии 120B — лучший результат на данный момент. Пользователи могут развернуть сервис SGLang через Docker и подключить Open WebUI для локального чата либо с помощью LMRouter преобразовать формат запросов для полностью локального запуска Claude Code. Решение делает реальным развёртывание на DGX Spark локального кодирующего агента с десятками миллиардов параметров.
Ключевые моменты
- В сотрудничестве с NVIDIA на DGX Spark через SGLang удалось поддержать модели GPT-OSS 20B и 120B…
- Пользователи могут развернуть сервис SGLang через Docker и подключить Open WebUI для локального…
- Решение делает реальным развёртывание на DGX Spark локального кодирующего агента с десятками…
Кратко
- Опубликовано
- Обновлено
- Источник
- LMSYS Blog
- Категория
- Другое
DGX Spark本地跑通Claude Code完全离线,隐私敏感开发者的新选择
Связанные сущности
Источник и авторские права
Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.
Как цитировать
При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.
Orange News: Оптимизация GPT-OSS на NVIDIA DGX Spark: локальное развёртывание больших моделей. 3 ноября 2025. https://new.nat6.net/ru/news/cmnxbjke50071sln0fe680fef/