Artículos e investigación

MosaicLeaks: ¿pueden tus agentes de investigación guardar secretos?

Título original:MosaicLeaks: Can your research agent keep a secret?

Resumen de IA

Los agentes de investigación profunda presentan riesgos de filtración de privacidad al combinar documentos locales privados con búsquedas en la web externa. MosaicLeaks propone una nueva tarea con 1.001 cadenas de investigación de múltiples saltos, cada una con subpreguntas locales y públicas intercaladas. Las pruebas revelan que los agentes filtran con frecuencia información privada, y que optimizar únicamente el rendimiento de la tarea agrava la filtración. A partir de ello, la investigación propone un método de entrenamiento por refuerzo de investigación profunda con conciencia de privacidad (PA-DR), que eleva la tasa de éxito de cadenas estrictas del 48,7% al 58,7% y reduce la tasa de filtración de respuestas e información integral del 34,0% al 9,9%.

Puntos clave

  • Los agentes de investigación profunda presentan riesgos de filtración de privacidad al combinar…
  • MosaicLeaks propone una nueva tarea con 1.
  • 001 cadenas de investigación de múltiples saltos,cada una con subpreguntas locales y públicas…
  • Las pruebas revelan que los agentes filtran con frecuencia información privada,y que optimizar…
  • A partir de ello,la investigación propone un método de entrenamiento por refuerzo de investigación…

Resumen rápido

Publicado
Actualizado
Fuente
Hugging Face 社区博客(混合发现)
Categoría
Artículos e investigación
Puntuación IA
75
Leer el original Leer el artículo completo en la fuente original
Por qué importa

这篇论文揭示了深度研究agent的多跳查询会像马赛克一样拼凑出私密信息,单纯提示减少泄露几乎没用,而隐私感知训练把泄露率从34%降到9.9%,且不损伤任务表现,做企业级agent产品的团队要重视。

Fuente y derechos

Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.

Artículo original · Ficha de AIHOT

Cómo citar

Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.

Orange News: MosaicLeaks: ¿pueden tus agentes de investigación guardar secretos?. 19. junio 2026. https://new.nat6.net/es/news/cmqjur86800bvslhi6qv1647r/

Ver todo →