Bài báo & nghiên cứu

MosaicLeaks: tác nhân nghiên cứu của bạn có giữ được bí mật?

Tiêu đề gốc:MosaicLeaks: Can your research agent keep a secret?

Tóm tắt AI

Tác nhân nghiên cứu sâu có rủi ro rò rỉ quyền riêng tư khi kết hợp tài liệu cục bộ riêng tư với tìm kiếm web bên ngoài. MosaicLeaks đề xuất tác vụ mới gồm 1.001 chuỗi nghiên cứu nhiều bước, mỗi chuỗi xen kẽ câu hỏi con cục bộ và công khai. Thử nghiệm phát hiện tác nhân thường xuyên rò rỉ thông tin riêng tư, chỉ tối ưu hiệu năng tác vụ lại làm tăng rò rỉ. Từ đó, nghiên cứu đề xuất phương pháp huấn luyện học tăng cường nghiên cứu sâu nhận thức quyền riêng tư (PA-DR), nâng tỷ lệ thành công chuỗi nghiêm ngặt từ 48,7% lên 58,7%, đồng thời giảm tỷ lệ rò rỉ câu trả lời/thông tin toàn diện từ 34,0% xuống 9,9%.

Thông tin chính

  • Tác nhân nghiên cứu sâu có rủi ro rò rỉ quyền riêng tư khi kết hợp tài liệu cục bộ riêng tư với…
  • MosaicLeaks đề xuất tác vụ mới gồm 1.
  • 001 chuỗi nghiên cứu nhiều bước,mỗi chuỗi xen kẽ câu hỏi con cục bộ và công khai.
  • Thử nghiệm phát hiện tác nhân thường xuyên rò rỉ thông tin riêng tư,chỉ tối ưu hiệu năng tác vụ…
  • Từ đó,nghiên cứu đề xuất phương pháp huấn luyện học tăng cường nghiên cứu sâu nhận thức quyền…

Tóm tắt nhanh

Đăng lúc
Cập nhật lúc
Nguồn
Hugging Face 社区博客(混合发现)
Danh mục
Bài báo & nghiên cứu
Điểm AI
75
Đọc bản gốc Đọc toàn văn tại nguồn tin gốc
Lý do đề xuất

这篇论文揭示了深度研究agent的多跳查询会像马赛克一样拼凑出私密信息,单纯提示减少泄露几乎没用,而隐私感知训练把泄露率从34%降到9.9%,且不损伤任务表现,做企业级agent产品的团队要重视。

Nguồn và bản quyền

Bài viết này được tổng hợp dựa trên các tiêu đề chọn lọc và tóm tắt AI từ API công khai của AIHOT, đã ghi rõ nguồn và liên kết ngược; bản quyền nội dung gốc thuộc về cơ quan truyền thông và tác giả gốc, trang này không sao chép toàn văn.

Liên kết gốc · Mục AIHOT

Cách trích dẫn

Khi trích dẫn bài viết này, vui lòng giữ nguyên tiêu đề, ngày đăng và liên kết vĩnh viễn, đồng thời ghi rõ nguồn là Orange News.

Orange News: MosaicLeaks: tác nhân nghiên cứu của bạn có giữ được bí mật?. 19 tháng 6 2026. https://new.nat6.net/vi/news/cmqjur86800bvslhi6qv1647r/

Xem tất cả →