Answer.AI deckt unautorisierte Tool-Aufrufe auf: Claude & Co. rufen nicht gewährte Tools auf, API blockiert nicht
Originaltitel:The unauthorized tool call problem
KI-Zusammenfassung
Piotr Czapla von Answer.AI fand heraus, dass Claude 4.5 in einem solveit-Dialog ein nicht gewährtes Tool namens add_msg halluzinierte und erfolgreich ausführte, ohne dass die API eingriff. Ähnliches Verhalten ließ sich auch bei Gemini und Grok reproduzieren.
Kernpunkte
- Piotr Czapla von Answer.
- AI fand heraus,dass Claude 4.
- 5 in einem solveit-Dialog ein nicht gewährtes Tool namens add_msg halluzinierte und erfolgreich…
- Ähnliches Verhalten ließ sich auch bei Gemini und Grok reproduzieren.
Auf einen Blick
- Veröffentlicht
- Aktualisiert
- Quelle
- Answer.AI 官方研发博客(RSS)
- Kategorie
- Meinung
- KI-Bewertung
- 66
作者以可复现的实验展示 API 层不校验工具名带来的安全缺口,并给出客户端侧的简单修复思路。
Verwandte Entitäten
Quelle & Urheberrecht
Dieser Artikel basiert auf kuratierten Titeln und KI-Zusammenfassungen der öffentlichen AIHOT-API, mit Quellenangabe und Rückverlinkung. Das Urheberrecht am Original liegt bei den ursprünglichen Medien und Autoren; diese Seite spiegelt keine Volltexte.
Zitierhinweis
Beim Zitieren dieses Artikels bitte Titel, Datum und Permalink beibehalten und Orange News als Quelle angeben.
Orange News: Answer.AI deckt unautorisierte Tool-Aufrufe auf: Claude & Co. rufen nicht gewährte Tools auf, API blockiert nicht. 18. Februar 2026. https://new.nat6.net/de/news/cmtym2sjq0006roax3kmj3qi7/