PromptArmor раскрыла уязвимость утечки данных через косвенную инъекцию промптов в Writer.com
Оригинальный заголовок:Data Exfiltration from Writer.com via Indirect Prompt Injection
ИИ-резюме
PromptArmor раскрыла уязвимость косвенной инъекции промптов в Writer.com: атакующий скрывает инструкции на веб-странице мелким белым шрифтом, и после того как пользователь использует эту страницу как источник, LLM выполняет скрытые инструкции, отрисовывая изображения или ссылки markdown и передавая конфиденциальные данные — содержимое загруженных файлов, историю чата и т. п. — через HTTP-параметры на сервер атакующего.
Ключевые моменты
- PromptArmor раскрыла уязвимость косвенной инъекции промптов в Writer.
- com: атакующий скрывает инструкции на веб-странице мелким белым шрифтом,и после того как…
- — через HTTP-параметры на сервер атакующего.
Кратко
- Опубликовано
- Обновлено
- Источник
- PromptArmor:Threat Intelligence
- Категория
- Статьи и исследования
- Оценка ИИ
- 66
原文给出完整攻击链、复现细节和披露时间线,读者可以据此理解间接提示词注入如何在 LLM 应用中导致数据外泄。
Источник и авторские права
Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.
Как цитировать
При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.
Orange News: PromptArmor раскрыла уязвимость утечки данных через косвенную инъекцию промптов в Writer.com. 20 декабря 2023. https://new.nat6.net/ru/news/cmtyqbg7d0320roup8ykphc3h/