บทความและงานวิจัย

MosaicLeaks: เอเจนต์วิจัยของคุณเก็บความลับได้หรือไม่?

หัวข้อต้นฉบับ:MosaicLeaks: Can your research agent keep a secret?

สรุปโดย AI

เอเจนต์วิจัยเชิงลึกมีความเสี่ยงต่อการรั่วไหลของข้อมูลส่วนตัวเมื่อผสานเอกสารภายในกับค้นหาเว็บภายนอก MosaicLeaks เสนองานใหม่ที่มีห่วงโซ่การวิจัยหลายขั้นตอน 1,001 ชุด แต่ละชุดผสมคำถามย่อยภายในและสาธารณะสลับกัน การทดสอบพบว่าเอเจนต์รั่วไหลข้อมูลส่วนตัวบ่อยครั้ง และการปรับปรุงประสิทธิภาพงานเพียงอย่างเดียวกลับทำให้การรั่วไหลรุนแรงขึ้น จากข้อมูลนี้ การวิจัยเสนอวิธีการฝึกด้วยการเรียนรู้แบบเสริมกำลังแบบ Privacy-Aware Deep Research (PA-DR) ซึ่งเพิ่มอัตราความสำเร็จของห่วงโซ่ที่เข้มงวดจาก 48.7% เป็น 58.7% พร้อมลดอัตราการรั่วไหลของคำตอบ/ข้อมูลครบถ้วนจาก 34.0% เป็น 9.9%

ข้อมูลสำคัญ

  • เอเจนต์วิจัยเชิงลึกมีความเสี่ยงต่อการรั่วไหลของข้อมูลส่วนตัวเมื่อผสานเอกสารภายในกับค้นหาเว็บภายนอก…
  • 7% เป็น 58.
  • 7% พร้อมลดอัตราการรั่วไหลของคำตอบ/ข้อมูลครบถ้วนจาก 34.

สรุปสั้น

เวลาเผยแพร่
เวลาอัปเดต
แหล่งที่มา
Hugging Face 社区博客(混合发现)
หมวดหมู่
บทความและงานวิจัย
คะแนน AI
75
อ่านต้นฉบับ อ่านบทความฉบับเต็มที่แหล่งข่าวต้นฉบับ
เหตุผลที่แนะนำ

这篇论文揭示了深度研究agent的多跳查询会像马赛克一样拼凑出私密信息,单纯提示减少泄露几乎没用,而隐私感知训练把泄露率从34%降到9.9%,且不损伤任务表现,做企业级agent产品的团队要重视。

แหล่งที่มาและลิขสิทธิ์

บทความนี้เรียบเรียงจากพาดหัวคัดสรรและบทสรุป AI จาก API สาธารณะของ AIHOT โดยระบุแหล่งที่มาและลิงก์กลับแล้ว ลิขสิทธิ์ต้นฉบับเป็นของสื่อและผู้เขียนต้นทาง เว็บไซต์นี้ไม่ได้สะท้อนเนื้อหาฉบับเต็ม

ลิงก์ต้นฉบับ · รายการ AIHOT

วิธีอ้างอิง

เมื่ออ้างอิงบทความนี้ โปรดระบุชื่อเรื่อง วันที่ และลิงก์ถาวร พร้อมระบุแหล่งที่มาเป็น Orange News

Orange News: MosaicLeaks: เอเจนต์วิจัยของคุณเก็บความลับได้หรือไม่? 19 มิถุนายน 2026 https://new.nat6.net/th/news/cmqjur86800bvslhi6qv1647r/

ดูทั้งหมด →