Quan điểm & bình luận

Answer.AI phát hiện vấn đề gọi công cụ chưa được cấp phép: Claude và các mô hình khác có thể gọi công cụ không được cấp và API không chặn

Tiêu đề gốc:The unauthorized tool call problem

Tóm tắt AI

Piotr Czapla của Answer.AI phát hiện Claude 4.5 trong hội thoại solveit đã ảo giác ra công cụ add_msg chưa được cấp và thực thi thành công, API không chặn, và hành vi tương tự cũng tái hiện trên Gemini và Grok.

Thông tin chính

  • Piotr Czapla của Answer.
  • AI phát hiện Claude 4.
  • 5 trong hội thoại solveit đã ảo giác ra công cụ add_msg chưa được cấp và thực thi thành công,API…

Tóm tắt nhanh

Đăng lúc
Cập nhật lúc
Nguồn
Answer.AI 官方研发博客(RSS)
Danh mục
Quan điểm & bình luận
Điểm AI
66
Đọc bản gốc Đọc toàn văn tại nguồn tin gốc
Lý do đề xuất

作者以可复现的实验展示 API 层不校验工具名带来的安全缺口,并给出客户端侧的简单修复思路。

Thực thể liên quan

Nguồn và bản quyền

Bài viết này được tổng hợp dựa trên các tiêu đề chọn lọc và tóm tắt AI từ API công khai của AIHOT, đã ghi rõ nguồn và liên kết ngược; bản quyền nội dung gốc thuộc về cơ quan truyền thông và tác giả gốc, trang này không sao chép toàn văn.

Liên kết gốc · Mục AIHOT

Cách trích dẫn

Khi trích dẫn bài viết này, vui lòng giữ nguyên tiêu đề, ngày đăng và liên kết vĩnh viễn, đồng thời ghi rõ nguồn là Orange News.

Orange News: Answer.AI phát hiện vấn đề gọi công cụ chưa được cấp phép: Claude và các mô hình khác có thể gọi công cụ không được cấp và API không chặn. 18 tháng 2 2026. https://new.nat6.net/vi/news/cmtym2sjq0006roax3kmj3qi7/

Xem tất cả →