논문 및 연구

MosaicLeaks: 연구 에이전트는 비밀을 지킬 수 있을까?

원제목:MosaicLeaks: Can your research agent keep a secret?

AI 요약

심층 연구 에이전트가 사설 로컬 문서와 외부 웹 검색을 결합할 때 프라이버시 유출 위험이 존재한다. MosaicLeaks는 1,001개의 멀티홉 연구 체인을 포함한 새로운 과제를 제안하며, 각 체인은 로컬과 공공 하위 질문을 교차 혼합한다. 테스트 결과 에이전트가 사설 정보를 빈번히 유출했으며, 단순히 과제 성능을 최적화할수록 유출이 오히려 심화되었다. 이에 연구진은 프라이버시 인식 심층 연구(PA-DR) 강화학습 훈련 방법을 제안하여 엄격한 체인 성공률을 48.7%에서 58.7%로 높이는 동시에 답변/전면 정보 유출률을 34.0%에서 9.9%로 낮췄다.

핵심 정보

  • 심층 연구 에이전트가 사설 로컬 문서와 외부 웹 검색을 결합할 때 프라이버시 유출 위험이 존재한다.
  • MosaicLeaks는 1,001개의 멀티홉 연구 체인을 포함한 새로운 과제를 제안하며,각 체인은 로컬과 공공 하위 질문을 교차 혼합한다.
  • 테스트 결과 에이전트가 사설 정보를 빈번히 유출했으며,단순히 과제 성능을 최적화할수록 유출이 오히려 심화되었다.
  • 이에 연구진은 프라이버시 인식 심층 연구(PA-DR) 강화학습 훈련 방법을 제안하여 엄격한 체인 성공률을 48.
  • 7%로 높이는 동시에 답변/전면 정보 유출률을 34.

한눈에 보기

게시
업데이트
출처
Hugging Face 社区博客(混合发现)
카테고리
논문 및 연구
AI 점수
75
원문 읽기 정보 출처에서 전체 본문 읽기
추천 이유

这篇论文揭示了深度研究agent的多跳查询会像马赛克一样拼凑出私密信息,单纯提示减少泄露几乎没用,而隐私感知训练把泄露率从34%降到9.9%,且不损伤任务表现,做企业级agent产品的团队要重视。

출처 및 저작권

이 기사는 AIHOT 공개 API가 제공하는 선별 제목과 AI 요약을 바탕으로 하며, 출처를 밝히고 원문으로 연결합니다. 원문 저작권은 원 미디어와 저자에게 있으며, 본 사이트는 전문을 전재하지 않습니다.

원문 기사 · AIHOT 항목

인용 방법

본문을 인용할 때는 제목, 날짜, 영구 링크를 유지하고 출처를 Orange News(으)로 표기해 주세요.

Orange News: MosaicLeaks: 연구 에이전트는 비밀을 지킬 수 있을까?. 2026년 6월 19일. https://new.nat6.net/ko/news/cmqjur86800bvslhi6qv1647r/

전체 보기 →