SGLang deckt Cross-Request-KVCache-Race-Condition in PD-disaggregiertem Serving auf und behebt sie
Originaltitel:SGLang security update: improving request isolation
KI-Zusammenfassung
Das SGLang-Team hat in Abstimmung mit Cloudflare eine Cross-Request-KVCache-Exposition offengelegt, die vom 27. August bis 9. September 2026 @cf/zai-org/glm-5.3 auf Workers AI betraf.
Kernpunkte
- Das SGLang-Team hat in Abstimmung mit Cloudflare eine Cross-Request-KVCache-Exposition…
- August bis 9.
- September 2026 @cf/zai-org/glm-5.
- 3 auf Workers AI betraf.
Auf einen Blick
- Veröffentlicht
- Aktualisiert
- Quelle
- LMSYS Blog
- Kategorie
- Tutorials & Tipps
- KI-Bewertung
- 71
SGLang 团队复盘了异步 KVCache 传输中的跨请求泄漏机制、复现方法和修复方案,对运维长上下文 PD 部署有直接指导意义。
Themen
Verwandte Entitäten
Quelle & Urheberrecht
Dieser Artikel basiert auf kuratierten Titeln und KI-Zusammenfassungen der öffentlichen AIHOT-API, mit Quellenangabe und Rückverlinkung. Das Urheberrecht am Original liegt bei den ursprünglichen Medien und Autoren; diese Seite spiegelt keine Volltexte.
Zitierhinweis
Beim Zitieren dieses Artikels bitte Titel, Datum und Permalink beibehalten und Orange News als Quelle angeben.
Orange News: SGLang deckt Cross-Request-KVCache-Race-Condition in PD-disaggregiertem Serving auf und behebt sie. 26. Oktober 2026. https://new.nat6.net/de/news/bb39zcs7eu91fi0ze136tayg2/