Туториалы и советы

SGLang раскрыла и устранила проблему гонки KVCache между запросами в сервисе с разделением PD

Оригинальный заголовок:SGLang security update: improving request isolation

ИИ-резюме

Команда SGLang совместно с Cloudflare раскрыла проблему раскрытия KVCache между запросами, затронувшую @cf/zai-org/glm-5.3 в Workers AI с 27 августа по 9 сентября 2026 года.

Ключевые моменты

  • Команда SGLang совместно с Cloudflare раскрыла проблему раскрытия KVCache между запросами
  • затронувшую @cf/zai-org/glm-5.
  • 3 в Workers AI с 27 августа по 9 сентября 2026 года.

Кратко

Опубликовано
Обновлено
Источник
LMSYS Blog
Категория
Туториалы и советы
Тема
Инженерия развёртыванияТуториалы и практикаБезопасность и выравнивание
Оценка ИИ
71
Читать оригинал Читать полную статью в первоисточнике
Почему это важно

SGLang 团队复盘了异步 KVCache 传输中的跨请求泄漏机制、复现方法和修复方案,对运维长上下文 PD 部署有直接指导意义。

Темы

Связанные сущности

Источник и авторские права

Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.

Оригинал статьи · Материал на AIHOT

Как цитировать

При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.

Orange News: SGLang раскрыла и устранила проблему гонки KVCache между запросами в сервисе с разделением PD. 26 октября 2026. https://new.nat6.net/ru/news/bb39zcs7eu91fi0ze136tayg2/

Смотреть все →