论文与研究

MosaicLeaks: 你的研究智能体能保守秘密吗?

原文标题:MosaicLeaks: Can your research agent keep a secret?

AI 摘要

深度研究智能体在结合私有本地文档与外部网页检索时存在隐私泄露风险。MosaicLeaks 提出包含 1,001 条多跳研究链的新任务,每条链交错混合本地与公共子问题。测试发现智能体频繁泄露私有信息,单纯优化任务性能反而加剧泄露。基于此,研究提出隐私感知深度研究(PA-DR)强化学习训练方法,将严格链成功率从 48.7% 提升至 58.7%,同时将答案/全面信息泄露率从 34.0% 降至 9.9%。

关键信息

  • 深度研究智能体在结合私有本地文档与外部网页检索时存在隐私泄露风险。
  • MosaicLeaks 提出包含 1,001 条多跳研究链的新任务,每条链交错混合本地与公共子问题。
  • 测试发现智能体频繁泄露私有信息,单纯优化任务性能反而加剧泄露。
  • 基于此,研究提出隐私感知深度研究(PA-DR)强化学习训练方法,将严格链成功率从 48.
  • 7% 提升至 58.

速览

发布时间
更新时间
来源
Hugging Face 社区博客(混合发现)
分类
论文与研究
AI 评分
75
阅读原文 前往信息源阅读完整正文
推荐理由

这篇论文揭示了深度研究agent的多跳查询会像马赛克一样拼凑出私密信息,单纯提示减少泄露几乎没用,而隐私感知训练把泄露率从34%降到9.9%,且不损伤任务表现,做企业级agent产品的团队要重视。

来源与版权

本文基于 AIHOT 公开 API 的精选标题与 AI 摘要整理,已注明来源并回链;原文版权归原媒体与作者所有,本站不镜像全文。

原文链接 · AIHOT 条目

如何引用

引用本文时请保留标题、日期与永久链接,并注明来源为橙子新闻。

橙子新闻:MosaicLeaks: 你的研究智能体能保守秘密吗?。2026年6月19日。https://new.nat6.net/news/cmqjur86800bvslhi6qv1647r/

查看全部 →
  • OpenAI 强化学习实现广泛且持久的有益模型

    OpenAI 通过强化学习在真实对话场景中训练模型,使其展现诚实、认知谦逊、元认知透明、可纠正性、普遍公平性和对人类福祉的关心等有益特质。训练数据涵盖健康、教育、科学、法律、工程等多个领域。训练后模型在数十项独立对齐评测(包括奖励黑客、欺…

    OpenAI:Alignment 研究博客(RSS)论文与研究AI 评分 64

  • 九位评委,两个有效投票:相关错误削弱LLM评审面板

    苹果机器学习研究团队发现,LLM-as-a-judge面板因模型间高度相关而严重受限。对7个模型家族的9个前沿大语言模型在3个自然语言推理数据集上的测试表明,9位评委实际仅提供约2个独立投票的信息量,面板准确率比独立投票理想值低8–22个…

    Apple Machine Learning Research(RSS)论文与研究AI 评分 68

  • 思考即回忆:推理如何解锁LLM中的参数化知识

    Google Research研究发现,推理(chain-of-thought)能帮助大语言模型(LLM)回忆简单事实,即使这些事实无需复杂推导。在Gemini-2.5 Flash和Pro以及Qwen3-32B上,启用推理后模型能够回答原…

    Google Research:Blog(网页)论文与研究AI 评分 69