SGLang раскрыла и устранила проблему гонки KVCache между запросами в сервисе с разделением PD
Оригинальный заголовок:SGLang security update: improving request isolation
ИИ-резюме
Команда SGLang совместно с Cloudflare раскрыла проблему раскрытия KVCache между запросами, затронувшую @cf/zai-org/glm-5.3 в Workers AI с 27 августа по 9 сентября 2026 года.
Ключевые моменты
- Команда SGLang совместно с Cloudflare раскрыла проблему раскрытия KVCache между запросами
- затронувшую @cf/zai-org/glm-5.
- 3 в Workers AI с 27 августа по 9 сентября 2026 года.
Кратко
- Опубликовано
- Обновлено
- Источник
- LMSYS Blog
- Категория
- Туториалы и советы
- Оценка ИИ
- 71
SGLang 团队复盘了异步 KVCache 传输中的跨请求泄漏机制、复现方法和修复方案,对运维长上下文 PD 部署有直接指导意义。
Темы
Связанные сущности
Источник и авторские права
Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.
Как цитировать
При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.
Orange News: SGLang раскрыла и устранила проблему гонки KVCache между запросами в сервисе с разделением PD. 26 октября 2026. https://new.nat6.net/ru/news/bb39zcs7eu91fi0ze136tayg2/