MosaicLeaks: Können Ihre Forschungsagenten Geheimnisse bewahren?
Originaltitel:MosaicLeaks: Can your research agent keep a secret?
KI-Zusammenfassung
Tiefgehende Forschungsagenten bergen ein Datenschutzrisiko, wenn sie private lokale Dokumente mit externer Websuche kombinieren. MosaicLeaks führt eine neue Aufgabe mit 1.001 Multi-Hop-Forschungsketten ein, bei denen jede Kette lokale und öffentliche Teilfragen abwechselnd mischt. Tests zeigen, dass Agenten häufig private Informationen preisgeben und eine reine Optimierung der Aufgabenleistung das Leck sogar verschärft. Daher schlägt die Studie eine Privacy-Aware Deep Research (PA-DR) Reinforcement-Learning-Trainingsmethode vor, die die Erfolgsrate strikter Ketten von 48,7 % auf 58,7 % steigert und gleichzeitig die Leckrate von Antworten/umfassenden Informationen von 34,0 % auf 9,9 % senkt.
Kernpunkte
- Tiefgehende Forschungsagenten bergen ein Datenschutzrisiko,wenn sie private lokale Dokumente mit…
- MosaicLeaks führt eine neue Aufgabe mit 1.
- 001 Multi-Hop-Forschungsketten ein,bei denen jede Kette lokale und öffentliche Teilfragen…
- Tests zeigen,dass Agenten häufig private Informationen preisgeben und eine reine Optimierung der…
- Daher schlägt die Studie eine Privacy-Aware Deep Research (PA-DR)…
Auf einen Blick
- Veröffentlicht
- Aktualisiert
- Quelle
- Hugging Face 社区博客(混合发现)
- Kategorie
- Papers & Forschung
- KI-Bewertung
- 75
这篇论文揭示了深度研究agent的多跳查询会像马赛克一样拼凑出私密信息,单纯提示减少泄露几乎没用,而隐私感知训练把泄露率从34%降到9.9%,且不损伤任务表现,做企业级agent产品的团队要重视。
Quelle & Urheberrecht
Dieser Artikel basiert auf kuratierten Titeln und KI-Zusammenfassungen der öffentlichen AIHOT-API, mit Quellenangabe und Rückverlinkung. Das Urheberrecht am Original liegt bei den ursprünglichen Medien und Autoren; diese Seite spiegelt keine Volltexte.
Zitierhinweis
Beim Zitieren dieses Artikels bitte Titel, Datum und Permalink beibehalten und Orange News als Quelle angeben.
Orange News: MosaicLeaks: Können Ihre Forschungsagenten Geheimnisse bewahren?. 19. Juni 2026. https://new.nat6.net/de/news/cmqjur86800bvslhi6qv1647r/