อื่น ๆ

ปรับแต่ง GPT-OSS บน NVIDIA DGX Spark: สู่การติดตั้งโมเดลภาษาขนาดใหญ่ในเครื่อง

หัวข้อต้นฉบับ:Tech Blog Optimizing GPT-OSS on NVIDIA DGX Spark: Getting the Most Out of Your Spark We’ve got some exciting updates about the NVIDIA DGX Spark\! In the week following the official launch, we collaborated closely with NVIDIA and successfully brought GPT-OSS 20B and GPT-OSS 120B suppor... Jerry Zhou November 3, 2025

สรุปโดย AI

ร่วมมือกับ NVIDIA สามารถรองรับโมเดล GPT-OSS 20B และ 120B บน DGX Spark ผ่าน SGLang ได้สำเร็จ โดยเวอร์ชัน 20B ให้ความเร็วในการสร้างประมาณ 70 โทเคนต่อวินาที และเวอร์ชัน 120B ประมาณ 50 โทเคนต่อวินาที ซึ่งเป็นระดับที่ดีที่สุดในปัจจุบัน ผู้ใช้สามารถติดตั้งบริการ SGLang ผ่าน Docker เชื่อมต่อ Open WebUI เพื่อแชทในเครื่อง หรือใช้ LMRouter แปลงรูปแบบคำขอเพื่อรัน Claude Code แบบในเครื่องอย่างสมบูรณ์ แนวทางนี้ทำให้การติดตั้งเอเจนต์ AI เขียนโค้ดในเครื่องที่มีพารามิเตอร์หลายหมื่นล้านบน DGX Spark เป็นจริงได้

สรุปสั้น

เวลาเผยแพร่
เวลาอัปเดต
แหล่งที่มา
LMSYS Blog
หมวดหมู่
อื่น ๆ
อ่านต้นฉบับ อ่านบทความฉบับเต็มที่แหล่งข่าวต้นฉบับ
เหตุผลที่แนะนำ

DGX Spark本地跑通Claude Code完全离线,隐私敏感开发者的新选择

เอนทิตีที่เกี่ยวข้อง

แหล่งที่มาและลิขสิทธิ์

บทความนี้เรียบเรียงจากพาดหัวคัดสรรและบทสรุป AI จาก API สาธารณะของ AIHOT โดยระบุแหล่งที่มาและลิงก์กลับแล้ว ลิขสิทธิ์ต้นฉบับเป็นของสื่อและผู้เขียนต้นทาง เว็บไซต์นี้ไม่ได้สะท้อนเนื้อหาฉบับเต็ม

ลิงก์ต้นฉบับ · รายการ AIHOT

วิธีอ้างอิง

เมื่ออ้างอิงบทความนี้ โปรดระบุชื่อเรื่อง วันที่ และลิงก์ถาวร พร้อมระบุแหล่งที่มาเป็น Orange News

Orange News: ปรับแต่ง GPT-OSS บน NVIDIA DGX Spark: สู่การติดตั้งโมเดลภาษาขนาดใหญ่ในเครื่อง 3 พฤศจิกายน 2025 https://new.nat6.net/th/news/cmnxbjke50071sln0fe680fef/

ดูทั้งหมด →