Hugging Face mengumumkan transformers mendukung menjalankan model kuantisasi GGUF secara langsung, dengan meneruskan gguf_file melalui from_pretrained untuk memuat checkpoint GGUF dari Hub, serta menggunakan kembali kernel Metal dari ggml.
Poin utama
Hugging Face mengumumkan transformers mendukung menjalankan model kuantisasi GGUF secara langsung
dengan meneruskan gguf_file melalui from_pretrained untuk memuat checkpoint GGUF dari Hub
Artikel ini disusun berdasarkan judul pilihan dan ringkasan AI dari API publik AIHOT, dengan sumber yang dicantumkan dan tautan balik; hak cipta konten asli milik media dan penulis aslinya, situs ini tidak menyalin artikel secara penuh.
Saat mengutip artikel ini, sertakan judul, tanggal, dan tautan permanen, serta cantumkan sumber Orange News.
Orange News: transformers mendukung pemuatan langsung model kuantisasi GGUF, performa inferensi lokal mendekati llama.cpp. 22 September 2026. https://new.nat6.net/id/news/cmuckj3gv09kiroed6m91iyre/