Tutorial dan petua

NVIDIA NeMo AutoModel: Satu Baris Kod Mempercepatkan Penalaan Halus Model Transformer MoE

Tajuk asal:Accelerating Transformers Fine-Tuning with NVIDIA NeMo AutoModel

Ringkasan AI

NVIDIA NeMo AutoModel ialah pustaka sumber terbuka berasaskan Transformers v5 yang menambah Expert Parallelism, penjadualan all-to-all gabungan DeepEP dan kernel TransformerEngine. Dalam penalaan halus model MoE, berbanding v5 asli, daya pemprosesan latihan meningkat 3.4–3.7 kali, memori GPU berkurang 29–32%, hanya memerlukan perubahan satu baris import. Semasa penalaan halus penuh Nemotron 3 Ultra 550B A55B pada 16 nod dengan 128 H100, v5 tidak dapat berjalan kerana kekurangan memori, manakala AutoModel menjadikan latihan mungkin dengan EP=64 keselarian pakar. Model MoE 30B satu nod (seperti Qwen3-30B-A3B) turut memperoleh kelebihan prestasi yang boleh diukur.

Maklumat penting

  • NVIDIA NeMo AutoModel ialah pustaka sumber terbuka berasaskan Transformers v5 yang menambah Expert…
  • Dalam penalaan halus model MoE,berbanding v5 asli,daya pemprosesan latihan meningkat 3.
  • 7 kali,memori GPU berkurang 29–32%,hanya memerlukan perubahan satu baris import.
  • Semasa penalaan halus penuh Nemotron 3 Ultra 550B A55B pada 16 nod dengan 128 H100,v5 tidak dapat…
  • Model MoE 30B satu nod (seperti Qwen3-30B-A3B) turut memperoleh kelebihan prestasi yang boleh…

Sekilas pandang

Diterbitkan pada
Dikemas kini pada
Sumber
Hugging Face 社区博客(混合发现)
Kategori
Tutorial dan petua
Skor AI
66
Baca asal Baca artikel penuh di sumber asal
Sebab disyorkan

英伟达的 NeMo AutoModel 把 MoE 模型微调速度提高了三倍多,内存省了近三分之一,代码只需改一行 import,做训练的可以立刻升级。

Entiti Berkaitan

Sumber dan hak cipta

Artikel ini disusun berdasarkan tajuk pilihan dan ringkasan AI daripada API awam AIHOT, dengan sumber dinyatakan dan pautan balik disediakan; hak cipta teks asal milik media dan penulis asal, laman ini tidak menyalin penuh teks penuh.

Pautan asal · Entri AIHOT

Cara memetik

Apabila memetik artikel ini, kekalkan tajuk, tarikh dan pautan kekal, serta nyatakan sumber sebagai Orange News.

Orange News: NVIDIA NeMo AutoModel: Satu Baris Kod Mempercepatkan Penalaan Halus Model Transformer MoE. 25 Jun 2026. https://new.nat6.net/ms/news/cmqs9yjcy0187slfupnhipvhf/

Lihat Semua →