Meinung

Answer.AI deckt unautorisierte Tool-Aufrufe auf: Claude & Co. rufen nicht gewährte Tools auf, API blockiert nicht

Originaltitel:The unauthorized tool call problem

KI-Zusammenfassung

Piotr Czapla von Answer.AI fand heraus, dass Claude 4.5 in einem solveit-Dialog ein nicht gewährtes Tool namens add_msg halluzinierte und erfolgreich ausführte, ohne dass die API eingriff. Ähnliches Verhalten ließ sich auch bei Gemini und Grok reproduzieren.

Kernpunkte

  • Piotr Czapla von Answer.
  • AI fand heraus,dass Claude 4.
  • 5 in einem solveit-Dialog ein nicht gewährtes Tool namens add_msg halluzinierte und erfolgreich…
  • Ähnliches Verhalten ließ sich auch bei Gemini und Grok reproduzieren.

Auf einen Blick

Veröffentlicht
Aktualisiert
Quelle
Answer.AI 官方研发博客(RSS)
Kategorie
Meinung
KI-Bewertung
66
Original lesen Den vollständigen Artikel bei der Originalquelle lesen
Warum es wichtig ist

作者以可复现的实验展示 API 层不校验工具名带来的安全缺口,并给出客户端侧的简单修复思路。

Verwandte Entitäten

Quelle & Urheberrecht

Dieser Artikel basiert auf kuratierten Titeln und KI-Zusammenfassungen der öffentlichen AIHOT-API, mit Quellenangabe und Rückverlinkung. Das Urheberrecht am Original liegt bei den ursprünglichen Medien und Autoren; diese Seite spiegelt keine Volltexte.

Originalartikel · AIHOT-Eintrag

Zitierhinweis

Beim Zitieren dieses Artikels bitte Titel, Datum und Permalink beibehalten und Orange News als Quelle angeben.

Orange News: Answer.AI deckt unautorisierte Tool-Aufrufe auf: Claude & Co. rufen nicht gewährte Tools auf, API blockiert nicht. 18. Februar 2026. https://new.nat6.net/de/news/cmtym2sjq0006roax3kmj3qi7/

Alle ansehen →