SGLang mengungkap dan memperbaiki masalah race condition KVCache lintas permintaan dalam layanan disagregasi PD
Judul asli:SGLang security update: improving request isolation
Ringkasan AI
Tim SGLang bersama Cloudflare mengoordinasikan pengungkapan masalah eksposur KVCache lintas permintaan yang memengaruhi @cf/zai-org/glm-5.3 di Workers AI pada 27 Agustus hingga 9 September 2026.
Ringkasan cepat
- Waktu terbit
- Waktu diperbarui
- Sumber
- LMSYS Blog
- Kategori
- Tutorial & Tips
- Skor AI
- 71
SGLang 团队复盘了异步 KVCache 传输中的跨请求泄漏机制、复现方法和修复方案,对运维长上下文 PD 部署有直接指导意义。
Topik terkait
Entitas Terkait
Sumber dan hak cipta
Artikel ini disusun berdasarkan judul pilihan dan ringkasan AI dari API publik AIHOT, dengan sumber yang dicantumkan dan tautan balik; hak cipta konten asli milik media dan penulis aslinya, situs ini tidak menyalin artikel secara penuh.
Cara mengutip
Saat mengutip artikel ini, sertakan judul, tanggal, dan tautan permanen, serta cantumkan sumber Orange News.
Orange News: SGLang mengungkap dan memperbaiki masalah race condition KVCache lintas permintaan dalam layanan disagregasi PD. 26 Oktober 2026. https://new.nat6.net/id/news/bb39zcs7eu91fi0ze136tayg2/