MosaicLeaks: умеют ли ваши исследовательские агенты хранить секреты?
Оригинальный заголовок:MosaicLeaks: Can your research agent keep a secret?
ИИ-резюме
Глубокие исследовательские агенты подвержены риску утечки приватных данных при сочетании частных локальных документов с внешним веб-поиском. MosaicLeaks предлагает новую задачу из 1 001 многошаговой исследовательской цепочки, в каждой из которых чередуются локальные и публичные подвопросы. Тесты показали, что агенты часто раскрывают приватную информацию, а оптимизация только под производительность задачи усиливает утечки. На основе этого предложен метод обучения с подкреплением для приватно-осознанного глубокого исследования (PA-DR), который повысил успешность строгих цепочек с 48,7% до 58,7%, одновременно снизив долю утечек ответов и полной информации с 34,0% до 9,9%.
Ключевые моменты
- Глубокие исследовательские агенты подвержены риску утечки приватных данных при сочетании частных…
- MosaicLeaks предлагает новую задачу из 1 001 многошаговой исследовательской цепочки,в каждой из…
- Тесты показали,что агенты часто раскрывают приватную информацию,а оптимизация только под…
- На основе этого предложен метод обучения с подкреплением для приватно-осознанного глубокого…
Кратко
- Опубликовано
- Обновлено
- Источник
- Hugging Face 社区博客(混合发现)
- Категория
- Статьи и исследования
- Оценка ИИ
- 75
这篇论文揭示了深度研究agent的多跳查询会像马赛克一样拼凑出私密信息,单纯提示减少泄露几乎没用,而隐私感知训练把泄露率从34%降到9.9%,且不损伤任务表现,做企业级agent产品的团队要重视。
Источник и авторские права
Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.
Как цитировать
При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.
Orange News: MosaicLeaks: умеют ли ваши исследовательские агенты хранить секреты?. 19 июня 2026. https://new.nat6.net/ru/news/cmqjur86800bvslhi6qv1647r/