MosaicLeaks : vos agents de recherche savent-ils garder un secret ?
Titre original:MosaicLeaks: Can your research agent keep a secret?
Résumé IA
Les agents de recherche approfondie présentent des risques de fuite de données privées lorsqu'ils combinent des documents locaux privés avec des recherches web externes. MosaicLeaks propose une nouvelle tâche comprenant 1 001 chaînes de recherche multi-sauts, chaque chaîne entremêlant des sous-questions locales et publiques. Les tests révèlent que les agents divulguent fréquemment des informations privées, et que l'optimisation de la seule performance de la tâche aggrave les fuites. Sur cette base, la recherche propose une méthode d'entraînement par apprentissage par renforcement pour la recherche approfondie soucieuse de la vie privée (PA-DR), portant le taux de réussite des chaînes strictes de 48,7 % à 58,7 %, tout en réduisant le taux de fuite de réponses et d'informations complètes de 34,0 % à 9,9 %.
Points clés
- Les agents de recherche approfondie présentent des risques de fuite de données privées lorsqu'ils…
- MosaicLeaks propose une nouvelle tâche comprenant 1 001 chaînes de recherche multi-sauts,chaque…
- Les tests révèlent que les agents divulguent fréquemment des informations privées,et que…
- Sur cette base,la recherche propose une méthode d'entraînement par apprentissage par renforcement…
En bref
- Publié
- Mis à jour
- Source
- Hugging Face 社区博客(混合发现)
- Catégorie
- Articles et recherche
- Score IA
- 75
这篇论文揭示了深度研究agent的多跳查询会像马赛克一样拼凑出私密信息,单纯提示减少泄露几乎没用,而隐私感知训练把泄露率从34%降到9.9%,且不损伤任务表现,做企业级agent产品的团队要重视。
Source et droits
Cet article s'appuie sur des titres sélectionnés et des résumés IA issus de l'API publique AIHOT, avec attribution et liens de retour. Les droits sur l'original restent ceux des médias et auteurs d'origine ; ce site ne reproduit pas les textes intégraux.
Comment citer
Pour citer cet article, conservez le titre, la date et le lien permanent, et indiquez Orange News comme source.
Orange News : MosaicLeaks : vos agents de recherche savent-ils garder un secret ?. 19. juin 2026. https://new.nat6.net/fr/news/cmqjur86800bvslhi6qv1647r/