Tiada GPU terbiar: Pengurusan pengkomputeran penyelidikan Runway
Tajuk asal:No Idle GPUs: Managing Research Compute at Runway
Ringkasan AI
Runway meningkatkan penggunaan GPU lebih daripada 20% sambil menjamin kapasiti pasukan dengan menggunakan Kueue sebagai pengawal kemasukan Kubernetes. Mekanisme terasnya ialah memperuntukkan kuota untuk kerja kritikal dan menubuhkan baris gilir dikongsi untuk meminjam kapasiti terbiar, serta mengambil semula sumber melalui preemption apabila pemilik kuota memerlukannya. Sistem ini beroperasi pada kelompok GPU berbilang penyewa yang mahal, menyokong penjadualan sedar topologi untuk latihan berbilang nod dan beban kerja elastik. Dalam pelaksanaan khusus, pasukan mempunyai baris gilir simpanan khusus, manakala baris gilir lalai berfungsi sebagai kolam peluang dikongsi yang boleh meminjam kuota terbiar untuk menjalankan beban kerja boleh ganggu. Apabila baris gilir simpanan memerlukan sumber, Kueue akan mengambil alih tugas dalam baris gilir lalai berdasarkan keutamaan dan masa berjalan, sekali gus mencapai pengurusan sumber yang cekap.
Maklumat penting
- Runway meningkatkan penggunaan GPU lebih daripada 20% sambil menjamin kapasiti pasukan dengan…
- Mekanisme terasnya ialah memperuntukkan kuota untuk kerja kritikal dan menubuhkan baris gilir…
- Sistem ini beroperasi pada kelompok GPU berbilang penyewa yang mahal,menyokong penjadualan sedar…
- Dalam pelaksanaan khusus,pasukan mempunyai baris gilir simpanan khusus,manakala baris gilir lalai…
- Apabila baris gilir simpanan memerlukan sumber,Kueue akan mengambil alih tugas dalam baris gilir…
Sekilas pandang
- Diterbitkan pada
- Dikemas kini pada
- Sumber
- Runway:News(网页)
- Kategori
- Tutorial dan petua
- Skor AI
- 58
Runway 把 Kueue + Kubernetes 的 GPU 调度实战写成了保姆级工程笔记,利用率翻倍的方案和踩坑细节都有,做大规模训练集群调度的团队可以直接抄作业。
Entiti Berkaitan
Sumber dan hak cipta
Artikel ini disusun berdasarkan tajuk pilihan dan ringkasan AI daripada API awam AIHOT, dengan sumber dinyatakan dan pautan balik disediakan; hak cipta teks asal milik media dan penulis asal, laman ini tidak menyalin penuh teks penuh.
Cara memetik
Apabila memetik artikel ini, kekalkan tajuk, tarikh dan pautan kekal, serta nyatakan sumber sebagai Orange News.
Orange News: Tiada GPU terbiar: Pengurusan pengkomputeran penyelidikan Runway. 27 April 2026. https://new.nat6.net/ms/news/cmoi4slfw00f0sle9vq5w8way/