MosaicLeaks: Kaya bang itago ng iyong research agent ang sikreto?
Orihinal na pamagat:MosaicLeaks: Can your research agent keep a secret?
AI summary
May panganib ng privacy leakage ang deep research agent kapag pinagsasama ang pribadong lokal na dokumento at external web retrieval. Iminumungkahi ng MosaicLeaks ang bagong gawain na may 1,001 multi-hop research chain, kung saan ang bawat chain ay pinagsasama-sama ang lokal at pampublikong sub-question. Natuklasan sa test na madalas mag-leak ng pribadong impormasyon ang agent, at ang pag-optimize lamang sa performance ng gawain ay nagpapalala pa ng leakage. Batay dito, iminungkahi ng pananaliksik ang privacy-aware deep research (PA-DR) reinforcement learning training method, na nagtaas ng strict chain success rate mula 48.7% hanggang 58.7%, at nagbaba ng answer/comprehensive information leakage rate mula 34.0% hanggang 9.9%.
Mahahalagang impormasyon
- May panganib ng privacy leakage ang deep research agent kapag pinagsasama ang pribadong lokal na…
- Iminumungkahi ng MosaicLeaks ang bagong gawain na may 1,001 multi-hop research chain,kung saan ang…
- Natuklasan sa test na madalas mag-leak ng pribadong impormasyon ang agent,at ang pag-optimize…
- Batay dito,iminungkahi ng pananaliksik ang privacy-aware deep research (PA-DR) reinforcement…
- 7% hanggang 58.
Mabilisang tingin
- Na-publish noong
- Na-update noong
- Pinagmulan
- Hugging Face 社区博客(混合发现)
- Kategorya
- Mga Papel at Pananaliksik
- AI na marka
- 75
这篇论文揭示了深度研究agent的多跳查询会像马赛克一样拼凑出私密信息,单纯提示减少泄露几乎没用,而隐私感知训练把泄露率从34%降到9.9%,且不损伤任务表现,做企业级agent产品的团队要重视。
Pinagmulan at copyright
Ang artikulong ito ay batay sa mga piling pamagat at AI summary mula sa pampublikong API ng AIHOT, may nakasaad na pinagmulan at backlink; ang copyright ng orihinal na teksto ay pag-aari ng orihinal na media at may-akda, hindi namin ginagaya ang buong teksto.
Paano banggitin
Kapag binabanggit ang artikulong ito, panatilihin ang pamagat, petsa at permanenteng link, at banggitin ang Orange News bilang pinagmulan.
Orange News: MosaicLeaks: Kaya bang itago ng iyong research agent ang sikreto?. 19 Hunyo 2026. https://new.nat6.net/fil/news/cmqjur86800bvslhi6qv1647r/