MosaicLeaks: bolehkah ejen penyelidikan anda menyimpan rahsia?
Tajuk asal:MosaicLeaks: Can your research agent keep a secret?
Ringkasan AI
Ejen penyelidikan mendalam berisiko mendedahkan privasi apabila menggabungkan dokumen tempatan peribadi dengan carian web luaran. MosaicLeaks mencadangkan tugas baharu yang mengandungi 1,001 rantaian penyelidikan berbilang lompatan, setiap rantaian berselang-seli antara sub-soalan tempatan dan awam. Ujian mendapati ejen kerap mendedahkan maklumat peribadi, dan pengoptimuman prestasi tugas semata-mata malah memburukkan lagi pendedahan. Berdasarkan ini, kajian mencadangkan kaedah latihan pembelajaran pengukuhan penyelidikan mendalam peka privasi (PA-DR), yang meningkatkan kadar kejayaan rantaian ketat daripada 48.7% kepada 58.7%, sambil mengurangkan kadar pendedahan jawapan/maklumat menyeluruh daripada 34.0% kepada 9.9%.
Maklumat penting
- Ejen penyelidikan mendalam berisiko mendedahkan privasi apabila menggabungkan dokumen tempatan…
- MosaicLeaks mencadangkan tugas baharu yang mengandungi 1,001 rantaian penyelidikan berbilang…
- Ujian mendapati ejen kerap mendedahkan maklumat peribadi,dan pengoptimuman prestasi tugas…
- Berdasarkan ini,kajian mencadangkan kaedah latihan pembelajaran pengukuhan penyelidikan mendalam…
- 7% kepada 58.
Sekilas pandang
- Diterbitkan pada
- Dikemas kini pada
- Sumber
- Hugging Face 社区博客(混合发现)
- Kategori
- Kertas penyelidikan
- Skor AI
- 75
这篇论文揭示了深度研究agent的多跳查询会像马赛克一样拼凑出私密信息,单纯提示减少泄露几乎没用,而隐私感知训练把泄露率从34%降到9.9%,且不损伤任务表现,做企业级agent产品的团队要重视。
Sumber dan hak cipta
Artikel ini disusun berdasarkan tajuk pilihan dan ringkasan AI daripada API awam AIHOT, dengan sumber dinyatakan dan pautan balik disediakan; hak cipta teks asal milik media dan penulis asal, laman ini tidak menyalin penuh teks penuh.
Cara memetik
Apabila memetik artikel ini, kekalkan tajuk, tarikh dan pautan kekal, serta nyatakan sumber sebagai Orange News.
Orange News: MosaicLeaks: bolehkah ejen penyelidikan anda menyimpan rahsia?. 19 Jun 2026. https://new.nat6.net/ms/news/cmqjur86800bvslhi6qv1647r/