Статьи и исследования

MosaicLeaks: умеют ли ваши исследовательские агенты хранить секреты?

Оригинальный заголовок:MosaicLeaks: Can your research agent keep a secret?

ИИ-резюме

Глубокие исследовательские агенты подвержены риску утечки приватных данных при сочетании частных локальных документов с внешним веб-поиском. MosaicLeaks предлагает новую задачу из 1 001 многошаговой исследовательской цепочки, в каждой из которых чередуются локальные и публичные подвопросы. Тесты показали, что агенты часто раскрывают приватную информацию, а оптимизация только под производительность задачи усиливает утечки. На основе этого предложен метод обучения с подкреплением для приватно-осознанного глубокого исследования (PA-DR), который повысил успешность строгих цепочек с 48,7% до 58,7%, одновременно снизив долю утечек ответов и полной информации с 34,0% до 9,9%.

Ключевые моменты

  • Глубокие исследовательские агенты подвержены риску утечки приватных данных при сочетании частных…
  • MosaicLeaks предлагает новую задачу из 1 001 многошаговой исследовательской цепочки,в каждой из…
  • Тесты показали,что агенты часто раскрывают приватную информацию,а оптимизация только под…
  • На основе этого предложен метод обучения с подкреплением для приватно-осознанного глубокого…

Кратко

Опубликовано
Обновлено
Источник
Hugging Face 社区博客(混合发现)
Категория
Статьи и исследования
Оценка ИИ
75
Читать оригинал Читать полную статью в первоисточнике
Почему это важно

这篇论文揭示了深度研究agent的多跳查询会像马赛克一样拼凑出私密信息,单纯提示减少泄露几乎没用,而隐私感知训练把泄露率从34%降到9.9%,且不损伤任务表现,做企业级agent产品的团队要重视。

Источник и авторские права

Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.

Оригинал статьи · Материал на AIHOT

Как цитировать

При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.

Orange News: MosaicLeaks: умеют ли ваши исследовательские агенты хранить секреты?. 19 июня 2026. https://new.nat6.net/ru/news/cmqjur86800bvslhi6qv1647r/

Смотреть все →