Статьи и исследования

PromptArmor раскрыла уязвимость утечки данных через косвенную инъекцию промптов в Writer.com

Оригинальный заголовок:Data Exfiltration from Writer.com via Indirect Prompt Injection

ИИ-резюме

PromptArmor раскрыла уязвимость косвенной инъекции промптов в Writer.com: атакующий скрывает инструкции на веб-странице мелким белым шрифтом, и после того как пользователь использует эту страницу как источник, LLM выполняет скрытые инструкции, отрисовывая изображения или ссылки markdown и передавая конфиденциальные данные — содержимое загруженных файлов, историю чата и т. п. — через HTTP-параметры на сервер атакующего.

Ключевые моменты

  • PromptArmor раскрыла уязвимость косвенной инъекции промптов в Writer.
  • com: атакующий скрывает инструкции на веб-странице мелким белым шрифтом,и после того как…
  • — через HTTP-параметры на сервер атакующего.

Кратко

Опубликовано
Обновлено
Источник
PromptArmor:Threat Intelligence
Категория
Статьи и исследования
Оценка ИИ
66
Читать оригинал Читать полную статью в первоисточнике
Почему это важно

原文给出完整攻击链、复现细节和披露时间线,读者可以据此理解间接提示词注入如何在 LLM 应用中导致数据外泄。

Источник и авторские права

Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.

Оригинал статьи · Материал на AIHOT

Как цитировать

При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.

Orange News: PromptArmor раскрыла уязвимость утечки данных через косвенную инъекцию промптов в Writer.com. 20 декабря 2023. https://new.nat6.net/ru/news/cmtyqbg7d0320roup8ykphc3h/

Смотреть все →