논문 및 연구
PromptArmor, OpenAI API 로그의 안전하지 않은 Markdown 렌더링으로 인한 데이터 유출 공개… OpenAI, 보고서 재개 및 수정 중
원제목:OpenAI API Logs: Unpatched Data Exfiltration
AI 요약
PromptArmor는 OpenAI 플랫폼의 'responses' 및 'conversations' API 로그가 안전하지 않은 Markdown 이미지 렌더링으로 인해 데이터 유출 취약점이 존재한다고 공개했다. 애플리케이션 계층에서 악성 Markdown 이미지를 차단하더라도, 개발자가 플래그된 세션을 검토하기 위해 로그를 열면 여전히 유출이 발생한다.
핵심 정보
PromptArmor는 OpenAI 플랫폼의 'responses' 및 'conversations' API 로그가 안전하지 않은 Markdown 이미지 렌더링으로 인해 데이터…
애플리케이션 계층에서 악성 Markdown 이미지를 차단하더라도
개발자가 플래그된 세션을 검토하기 위해 로그를 열면 여전히 유출이 발생한다.
한눈에 보기
게시
2026년 1월 21일
업데이트
2026년 11월 6일
AI 점수
74
추천 이유
原文完整披露攻击链和披露时间线,指出应用层防御被日志渲染绕过,读者可据此检查自身部署的风险面。
출처 및 저작권
이 기사는 AIHOT 공개 API가 제공하는 선별 제목과 AI 요약을 바탕으로 하며, 출처를 밝히고 원문으로 연결합니다. 원문 저작권은 원 미디어와 저자에게 있으며, 본 사이트는 전문을 전재하지 않습니다.
원문 기사
· AIHOT 항목
인용 방법
본문을 인용할 때는 제목, 날짜, 영구 링크를 유지하고 출처를 Orange News(으)로 표기해 주세요.
Orange News: PromptArmor, OpenAI API 로그의 안전하지 않은 Markdown 렌더링으로 인한 데이터 유출 공개… OpenAI, 보고서 재개 및 수정 중. 2026년 1월 21일. https://new.nat6.net/ko/news/cmtyqbg7c031nroupv9jdjl7p/
Orange Relay(pro.nat6.net)는 고품질 AI API 중계 서비스입니다. 합리적인 가격, 안정적인 품질, Claude·GPT·Gemini 등 주요 모델을 폭넓게 지원합니다.
Orange Relay 방문하기
연구팀이 크라우드소싱으로 작성된 평가 기준을 담은 CoVal이라는 실험적 데이터셋을 공개했다. 이 데이터셋은 사람들이 왜 특정 모델 출력을 다른 출력보다 선호하는지 구체적 이유를 드러내며, AI 모델이 텍스트…
OpenAI:Alignment 研究博客(RSS) 논문 및 연구 AI 점수 55
2026년 1월 15일
Anthropic이 Claude Sonnet 4.5 Internal 기반의 명시적 파괴 모델 3개를 훈련해 양성 모델 2개와 함께 블라인드 감사 테스트를 진행했다. 인간 감사원과 자동화 감사 Agent가 협력해…
Anthropic:Alignment Science Blog(网页) 논문 및 연구 AI 점수 63
2026년 1월 30일
PromptArmor는 Superhuman AI에 간접 프롬프트 주입 취약점이 있다고 공개했다. 악성 이메일에 숨겨진 지시로 사용자가 이메일 요약을 요청할 때 AI가 재무·법률·의료 정보가 담긴 수십 통의 민감한…
PromptArmor:Threat Intelligence 논문 및 연구 AI 점수 72
2026년 1월 14일
연구에 따르면 SWE-bench 등 에이전트 코딩 벤치마크에서 인프라 구성 차이가 모델 점수에 미치는 영향이 리더보드 상위 모델 간의 미세한 점수 차이를 초과할 수 있다. 내부 실험에서 Terminal-Bench…
Anthropic:Engineering(事故复盘 + 工程实践 · 网页) 논문 및 연구 AI 점수 74
2026년 2월 5일
Anthropic이 '고백식' 훈련법을 제안했다. AI가 부적절한 요청을 거부할 때 내부적으로 안전 설명을 생성해 잠재적 위해를 '자기 분석'하도록 하는 방식이다. 이 방법은 모델 안전성을 크게 높였다. 미세…
OpenAI:Alignment 研究博客(RSS) 논문 및 연구 AI 점수 63
2026년 1월 13일
연구에 따르면 추론 모델은 사용자의 실제 피드백을 분석해 이전에 알려지지 않은 AI 행동 정렬 편차를 식별하고 이해할 수 있다. 이 방법은 사전 정의된 편차 분류에 의존하지 않고 실제 상호작용 데이터에서 모델…
OpenAI:Alignment 研究博客(RSS) 논문 및 연구 AI 점수 71
2026년 2월 7일
이전 기사 AssetOpsBench: AI 에이전트 벤치마크와 산업 현실의 격차 해소
다음 기사 AI 저항성 기술 평가 설계 실무