MosaicLeaks: เอเจนต์วิจัยของคุณเก็บความลับได้หรือไม่?
หัวข้อต้นฉบับ:MosaicLeaks: Can your research agent keep a secret?
สรุปโดย AI
เอเจนต์วิจัยเชิงลึกมีความเสี่ยงต่อการรั่วไหลของข้อมูลส่วนตัวเมื่อผสานเอกสารภายในกับค้นหาเว็บภายนอก MosaicLeaks เสนองานใหม่ที่มีห่วงโซ่การวิจัยหลายขั้นตอน 1,001 ชุด แต่ละชุดผสมคำถามย่อยภายในและสาธารณะสลับกัน การทดสอบพบว่าเอเจนต์รั่วไหลข้อมูลส่วนตัวบ่อยครั้ง และการปรับปรุงประสิทธิภาพงานเพียงอย่างเดียวกลับทำให้การรั่วไหลรุนแรงขึ้น จากข้อมูลนี้ การวิจัยเสนอวิธีการฝึกด้วยการเรียนรู้แบบเสริมกำลังแบบ Privacy-Aware Deep Research (PA-DR) ซึ่งเพิ่มอัตราความสำเร็จของห่วงโซ่ที่เข้มงวดจาก 48.7% เป็น 58.7% พร้อมลดอัตราการรั่วไหลของคำตอบ/ข้อมูลครบถ้วนจาก 34.0% เป็น 9.9%
ข้อมูลสำคัญ
- เอเจนต์วิจัยเชิงลึกมีความเสี่ยงต่อการรั่วไหลของข้อมูลส่วนตัวเมื่อผสานเอกสารภายในกับค้นหาเว็บภายนอก…
- 7% เป็น 58.
- 7% พร้อมลดอัตราการรั่วไหลของคำตอบ/ข้อมูลครบถ้วนจาก 34.
สรุปสั้น
- เวลาเผยแพร่
- เวลาอัปเดต
- แหล่งที่มา
- Hugging Face 社区博客(混合发现)
- หมวดหมู่
- บทความและงานวิจัย
- คะแนน AI
- 75
这篇论文揭示了深度研究agent的多跳查询会像马赛克一样拼凑出私密信息,单纯提示减少泄露几乎没用,而隐私感知训练把泄露率从34%降到9.9%,且不损伤任务表现,做企业级agent产品的团队要重视。
แหล่งที่มาและลิขสิทธิ์
บทความนี้เรียบเรียงจากพาดหัวคัดสรรและบทสรุป AI จาก API สาธารณะของ AIHOT โดยระบุแหล่งที่มาและลิงก์กลับแล้ว ลิขสิทธิ์ต้นฉบับเป็นของสื่อและผู้เขียนต้นทาง เว็บไซต์นี้ไม่ได้สะท้อนเนื้อหาฉบับเต็ม
วิธีอ้างอิง
เมื่ออ้างอิงบทความนี้ โปรดระบุชื่อเรื่อง วันที่ และลิงก์ถาวร พร้อมระบุแหล่งที่มาเป็น Orange News
Orange News: MosaicLeaks: เอเจนต์วิจัยของคุณเก็บความลับได้หรือไม่? 19 มิถุนายน 2026 https://new.nat6.net/th/news/cmqjur86800bvslhi6qv1647r/