Answer.AI раскрыла проблему несанкционированных вызовов инструментов: Claude и другие модели вызывают невыданные инструменты, а API не блокирует
Оригинальный заголовок:The unauthorized tool call problem
ИИ-резюме
Piotr Czapla из Answer.AI обнаружил, что Claude 4.5 в диалоге solveit сгенерировал невыданный инструмент add_msg и успешно выполнил его, API не заблокировал вызов; аналогичное поведение воспроизведено на Gemini и Grok.
Ключевые моменты
- Piotr Czapla из Answer.
- AI обнаружил,что Claude 4.
- 5 в диалоге solveit сгенерировал невыданный инструмент add_msg и успешно выполнил его,API не…
- аналогичное поведение воспроизведено на Gemini и Grok.
Кратко
- Опубликовано
- Обновлено
- Источник
- Answer.AI 官方研发博客(RSS)
- Категория
- Мнения
- Оценка ИИ
- 66
作者以可复现的实验展示 API 层不校验工具名带来的安全缺口,并给出客户端侧的简单修复思路。
Связанные сущности
Источник и авторские права
Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.
Как цитировать
При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.
Orange News: Answer.AI раскрыла проблему несанкционированных вызовов инструментов: Claude и другие модели вызывают невыданные инструменты, а API не блокирует. 18 февраля 2026. https://new.nat6.net/ru/news/cmtym2sjq0006roax3kmj3qi7/