Tutorial dan petua

Hugging Face menerangkan secara terperinci pelbagai peningkatan prestasi transformers untuk menyokong OpenAI GPT-OSS

Tajuk asal:Tricks from OpenAI gpt-oss YOU 🫵 can use with transformers

Ringkasan AI

Hugging Face menerbitkan artikel memperkenalkan peningkatan pustaka untuk membolehkan siri OpenAI GPT-OSS berjalan dengan cekap pada transformers, termasuk kernel sifar binaan yang boleh dimuat turun dari Hub, kuantisasi asli MXFP4, keselarian tensor, keselarian pakar, cache tetingkap gelongsor dinamik, pemprosesan kelompok berterusan dan pemuatan model yang lebih pantas.

Maklumat penting

  • Hugging Face menerbitkan artikel memperkenalkan peningkatan pustaka untuk membolehkan siri OpenAI…
  • termasuk kernel sifar binaan yang boleh dimuat turun dari Hub
  • kuantisasi asli MXFP4,keselarian tensor,keselarian pakar,cache tetingkap gelongsor…

Sekilas pandang

Diterbitkan pada
Dikemas kini pada
Sumber
Hugging Face 社区博客(混合发现)
Kategori
Tutorial dan petua
Skor AI
65
Baca asal Baca artikel penuh di sumber asal
Sebab disyorkan

原文详解 transformers 为支持 GPT-OSS 引入的内核下载、MXFP4、张量与专家并行等升级,多数特性可复用到其他模型。

Entiti Berkaitan

Sumber dan hak cipta

Artikel ini disusun berdasarkan tajuk pilihan dan ringkasan AI daripada API awam AIHOT, dengan sumber dinyatakan dan pautan balik disediakan; hak cipta teks asal milik media dan penulis asal, laman ini tidak menyalin penuh teks penuh.

Pautan asal · Entri AIHOT

Cara memetik

Apabila memetik artikel ini, kekalkan tajuk, tarikh dan pautan kekal, serta nyatakan sumber sebagai Orange News.

Orange News: Hugging Face menerangkan secara terperinci pelbagai peningkatan prestasi transformers untuk menyokong OpenAI GPT-OSS. 11 September 2025. https://new.nat6.net/ms/news/e1ajgwefothfwhh7weq5moko0/

Lihat Semua →