오피니언
Answer.AI, 미승인 도구 호출 문제 공개…Claude 등 모델이 부여되지 않은 도구 호출하고 API도 차단 안 해
원제목:The unauthorized tool call problem
AI 요약
Answer.AI의 Piotr Czapla는 Claude 4.5가 solveit 대화에서 부여되지 않은 도구 add_msg를 환각으로 만들어내 성공적으로 실행했고 API가 이를 차단하지 않았다고 밝혔다. Gemini와 Grok에서도 유사한 동작이 재현됐다.
핵심 정보
Answer.
AI의 Piotr Czapla는 Claude 4.
5가 solveit 대화에서 부여되지 않은 도구 add_msg를 환각으로 만들어내 성공적으로 실행했고 API가 이를 차단하지 않았다고 밝혔다.
Gemini와 Grok에서도 유사한 동작이 재현됐다.
한눈에 보기
게시
2026년 2월 18일
업데이트
2026년 11월 6일
AI 점수
66
추천 이유
作者以可复现的实验展示 API 层不校验工具名带来的安全缺口,并给出客户端侧的简单修复思路。
출처 및 저작권
이 기사는 AIHOT 공개 API가 제공하는 선별 제목과 AI 요약을 바탕으로 하며, 출처를 밝히고 원문으로 연결합니다. 원문 저작권은 원 미디어와 저자에게 있으며, 본 사이트는 전문을 전재하지 않습니다.
원문 기사
· AIHOT 항목
인용 방법
본문을 인용할 때는 제목, 날짜, 영구 링크를 유지하고 출처를 Orange News(으)로 표기해 주세요.
Orange News: Answer.AI, 미승인 도구 호출 문제 공개…Claude 등 모델이 부여되지 않은 도구 호출하고 API도 차단 안 해. 2026년 2월 18일. https://new.nat6.net/ko/news/cmtym2sjq0006roax3kmj3qi7/
Orange Relay(pro.nat6.net)는 고품질 AI API 중계 서비스입니다. 합리적인 가격, 안정적인 품질, Claude·GPT·Gemini 등 주요 모델을 폭넓게 지원합니다.
Orange Relay 방문하기
PromptArmor는 OpenAI Codex CLI가 사용자가 프로젝트를 신뢰한 후 .codex/config.toml의 임의 코드를 자동으로 로드 및 실행하며, 신뢰 대화상자는 prompt injection…
PromptArmor:Threat Intelligence 오피니언 AI 점수 71
2026년 2월 17일
Cognition은 창립 때부터 Devin으로 Devin을 구축해 왔다고 밝혔으며, 지난주 659개의 Devin PR을 병합해 2025년 최고 주간인 154개를 넘어섰다. 글은 웹, Slack, Linear,…
Cognition 模型 / Devin 博客(网页) 오피니언 AI 점수 67
2026년 2월 27일
AI(예: Claude Code)는 실제로 10배의 생산성 향상을 가져오지만, 창출된 가치의 대부분은 회사가 차지하며 직원은 과로에 시달리면서도 얻는 것이 거의 없을 수 있습니다. 마이크로소프트 내부에서는 이미 C…
Steve Yegge:Medium(RSS) 오피니언 AI 점수 75
2026년 2월 11일
Answer.AI의 Jeremy Howard와 Luke Versweyveld가 OpenAI와 전쟁부 계약의 'all lawful purposes' 조항 의미를 분석하는 글을 발표했다. OpenAI 측은 이 조항이…
Answer.AI 官方研发博客(RSS) 오피니언 AI 점수 63
2026년 3월 2일
연구진은 '에이전트 팀' 방식을 도입해 여러 Claude 인스턴스가 사람의 개입 없이 병렬로 협업해 코드를 개발하도록 했다. 스트레스 테스트를 위해 팀은 16개 에이전트에게 Linux 커널을 컴파일할 수 있는…
Anthropic:Engineering(事故复盘 + 工程实践 · 网页) 오피니언 AI 점수 78
2026년 2월 5일
LlamaIndex가 회사 미션을 에이전트 문서 처리 인프라(OCR, 추출, 워크플로) 구축으로 좁혔다고 공식 발표했다. 더 이상 단순한 RAG 프레임워크로 자리매김하지 않는다.
LlamaIndex:产品、工程与评测 오피니언 AI 점수 61
2026년 3월 3일
이전 기사 Gradio의 gr.HTML 컴포넌트로 원클릭 임의 웹 앱 구축
다음 기사 오픈소스 모델의 끝없는 추격