오피니언

Answer.AI, 미승인 도구 호출 문제 공개…Claude 등 모델이 부여되지 않은 도구 호출하고 API도 차단 안 해

원제목:The unauthorized tool call problem

AI 요약

Answer.AI의 Piotr Czapla는 Claude 4.5가 solveit 대화에서 부여되지 않은 도구 add_msg를 환각으로 만들어내 성공적으로 실행했고 API가 이를 차단하지 않았다고 밝혔다. Gemini와 Grok에서도 유사한 동작이 재현됐다.

핵심 정보

  • Answer.
  • AI의 Piotr Czapla는 Claude 4.
  • 5가 solveit 대화에서 부여되지 않은 도구 add_msg를 환각으로 만들어내 성공적으로 실행했고 API가 이를 차단하지 않았다고 밝혔다.
  • Gemini와 Grok에서도 유사한 동작이 재현됐다.

한눈에 보기

게시
업데이트
출처
Answer.AI 官方研发博客(RSS)
카테고리
오피니언
AI 점수
66
원문 읽기 정보 출처에서 전체 본문 읽기
추천 이유

作者以可复现的实验展示 API 层不校验工具名带来的安全缺口,并给出客户端侧的简单修复思路。

관련 엔티티

출처 및 저작권

이 기사는 AIHOT 공개 API가 제공하는 선별 제목과 AI 요약을 바탕으로 하며, 출처를 밝히고 원문으로 연결합니다. 원문 저작권은 원 미디어와 저자에게 있으며, 본 사이트는 전문을 전재하지 않습니다.

원문 기사 · AIHOT 항목

인용 방법

본문을 인용할 때는 제목, 날짜, 영구 링크를 유지하고 출처를 Orange News(으)로 표기해 주세요.

Orange News: Answer.AI, 미승인 도구 호출 문제 공개…Claude 등 모델이 부여되지 않은 도구 호출하고 API도 차단 안 해. 2026년 2월 18일. https://new.nat6.net/ko/news/cmtym2sjq0006roax3kmj3qi7/

전체 보기 →