Mga Opinyon at Komentaryo

Inihayag ng Answer.AI ang problema sa hindi awtorisadong tool call: kayang tawagin ng mga modelo tulad ng Claude ang mga tool na hindi ibinigay at hindi ito hinaharang ng API

Orihinal na pamagat:The unauthorized tool call problem

AI summary

Natuklasan ni Piotr Czapla ng Answer.AI na nag-hallucinate ang Claude 4.5 ng tool na add_msg na hindi ibinigay sa usapan ng solveit at matagumpay itong naisakatuparan, hindi ito hinarang ng API, at muling naranasan ang katulad na pag-uugali sa Gemini at Grok.

Mahahalagang impormasyon

  • Natuklasan ni Piotr Czapla ng Answer.
  • AI na nag-hallucinate ang Claude 4.
  • 5 ng tool na add_msg na hindi ibinigay sa usapan ng solveit at matagumpay itong…

Mabilisang tingin

Na-publish noong
Na-update noong
Pinagmulan
Answer.AI 官方研发博客(RSS)
Kategorya
Mga Opinyon at Komentaryo
AI na marka
66
Basahin ang orihinal Basahin ang buong artikulo sa orihinal na pinagmulan
Dahilan ng rekomendasyon

作者以可复现的实验展示 API 层不校验工具名带来的安全缺口,并给出客户端侧的简单修复思路。

Kaugnay na Entity

Pinagmulan at copyright

Ang artikulong ito ay batay sa mga piling pamagat at AI summary mula sa pampublikong API ng AIHOT, may nakasaad na pinagmulan at backlink; ang copyright ng orihinal na teksto ay pag-aari ng orihinal na media at may-akda, hindi namin ginagaya ang buong teksto.

Link ng orihinal · Entry sa AIHOT

Paano banggitin

Kapag binabanggit ang artikulong ito, panatilihin ang pamagat, petsa at permanenteng link, at banggitin ang Orange News bilang pinagmulan.

Orange News: Inihayag ng Answer.AI ang problema sa hindi awtorisadong tool call: kayang tawagin ng mga modelo tulad ng Claude ang mga tool na hindi ibinigay at hindi ito hinaharang ng API. 18 Pebrero 2026. https://new.nat6.net/fil/news/cmtym2sjq0006roax3kmj3qi7/

Tingnan lahat →