Tutorial dan petua

Mulakan pelayan vLLM di HF Jobs dengan satu arahan

Tajuk asal:Run a vLLM Server on HF Jobs in One Command

Ringkasan AI

HuggingFace Jobs menyokong permulaan pelayan vLLM dengan satu arahan untuk ujian, penilaian atau penjanaan kelompok. Gunakan arahan `hf jobs run`, nyatakan imej rasmi `vllm/vllm-openai`, flavor GPU (seperti `a10g-large`), dedahkan port 8000 dan tetapkan tamat masa. Selepas pelayan dimulakan, ia boleh diakses melalui API serasi OpenAI, dengan setiap permintaan perlu membawa token HF sebagai token pembawa (terhad kepada pengguna dengan kebenaran baca). Contoh menggunakan Qwen/Qwen3-4B (berbilang GPU memerlukan `--tensor-parallel-size`). Harga `a10g-large` ialah $1.50/jam, dibilkan mengikut minit, dan boleh dihentikan melalui `hf jobs cancel`.

Maklumat penting

  • HuggingFace Jobs menyokong permulaan pelayan vLLM dengan satu arahan untuk ujian,penilaian atau…
  • Gunakan arahan `hf jobs run`,nyatakan imej rasmi `vllm/vllm-openai`,flavor GPU (seperti…
  • Selepas pelayan dimulakan,ia boleh diakses melalui API serasi OpenAI,dengan setiap permintaan…
  • Contoh menggunakan Qwen/Qwen3-4B (berbilang GPU memerlukan `--tensor-parallel-size`).
  • Harga `a10g-large` ialah $1.

Sekilas pandang

Diterbitkan pada
Dikemas kini pada
Sumber
Hugging Face 社区博客(混合发现)
Kategori
Tutorial dan petua
Skor AI
62
Baca asal Baca artikel penuh di sumber asal
Sebab disyorkan

这是一条命令在HF上启动vLLM的完整教程,适合快速测试模型的开发者,但方案完全绑定Hugging Face平台,通用性有限。

Entiti Berkaitan

Sumber dan hak cipta

Artikel ini disusun berdasarkan tajuk pilihan dan ringkasan AI daripada API awam AIHOT, dengan sumber dinyatakan dan pautan balik disediakan; hak cipta teks asal milik media dan penulis asal, laman ini tidak menyalin penuh teks penuh.

Pautan asal · Entri AIHOT

Cara memetik

Apabila memetik artikel ini, kekalkan tajuk, tarikh dan pautan kekal, serta nyatakan sumber sebagai Orange News.

Orange News: Mulakan pelayan vLLM di HF Jobs dengan satu arahan. 26 Jun 2026. https://new.nat6.net/ms/news/cmqwr2hi6008msliky22llevm/

Lihat Semua →