MosaicLeaks: dapatkah agen riset Anda menjaga rahasia?
Judul asli:MosaicLeaks: Can your research agent keep a secret?
Ringkasan AI
Agen riset mendalam berisiko membocorkan privasi saat menggabungkan dokumen lokal privat dengan pencarian web eksternal. MosaicLeaks mengusulkan tugas baru berisi 1.001 rantai riset multi-lompatan, yang masing-masing secara berselang-seling mencampur subpertanyaan lokal dan publik. Pengujian menemukan agen sering membocorkan informasi privat, dan mengoptimalkan performa tugas secara murni justru memperparah kebocoran. Berdasarkan hal ini, penelitian mengusulkan metode pelatihan reinforcement learning riset mendalam sadar privasi (PA-DR), yang meningkatkan tingkat keberhasilan rantai ketat dari 48,7% menjadi 58,7%, sekaligus menurunkan tingkat kebocoran jawaban/informasi menyeluruh dari 34,0% menjadi 9,9%.
Poin utama
- Agen riset mendalam berisiko membocorkan privasi saat menggabungkan dokumen lokal privat dengan…
- MosaicLeaks mengusulkan tugas baru berisi 1.
- 001 rantai riset multi-lompatan,yang masing-masing secara berselang-seling mencampur subpertanyaan…
- Pengujian menemukan agen sering membocorkan informasi privat,dan mengoptimalkan performa tugas…
- Berdasarkan hal ini,penelitian mengusulkan metode pelatihan reinforcement learning riset mendalam…
Ringkasan cepat
- Waktu terbit
- Waktu diperbarui
- Sumber
- Hugging Face 社区博客(混合发现)
- Kategori
- Makalah & Riset
- Skor AI
- 75
这篇论文揭示了深度研究agent的多跳查询会像马赛克一样拼凑出私密信息,单纯提示减少泄露几乎没用,而隐私感知训练把泄露率从34%降到9.9%,且不损伤任务表现,做企业级agent产品的团队要重视。
Sumber dan hak cipta
Artikel ini disusun berdasarkan judul pilihan dan ringkasan AI dari API publik AIHOT, dengan sumber yang dicantumkan dan tautan balik; hak cipta konten asli milik media dan penulis aslinya, situs ini tidak menyalin artikel secara penuh.
Cara mengutip
Saat mengutip artikel ini, sertakan judul, tanggal, dan tautan permanen, serta cantumkan sumber Orange News.
Orange News: MosaicLeaks: dapatkah agen riset Anda menjaga rahasia?. 19 Juni 2026. https://new.nat6.net/id/news/cmqjur86800bvslhi6qv1647r/