Opini & Komentar

Answer.AI mengungkap masalah pemanggilan alat tanpa otorisasi: model seperti Claude dapat memanggil alat yang tidak diberikan dan API tidak memblokirnya

Judul asli:The unauthorized tool call problem

Ringkasan AI

Piotr Czapla dari Answer.AI menemukan bahwa Claude 4.5 berhalusinasi tentang alat add_msg yang tidak diberikan dalam percakapan solveit dan berhasil menjalankannya, API tidak memblokirnya, dan perilaku serupa juga direproduksi pada Gemini dan Grok.

Poin utama

  • Piotr Czapla dari Answer.
  • AI menemukan bahwa Claude 4.
  • 5 berhalusinasi tentang alat add_msg yang tidak diberikan dalam percakapan solveit dan berhasil…

Ringkasan cepat

Waktu terbit
Waktu diperbarui
Sumber
Answer.AI 官方研发博客(RSS)
Kategori
Opini & Komentar
Skor AI
66
Baca aslinya Baca artikel lengkap di sumber aslinya
Alasan rekomendasi

作者以可复现的实验展示 API 层不校验工具名带来的安全缺口,并给出客户端侧的简单修复思路。

Entitas Terkait

Sumber dan hak cipta

Artikel ini disusun berdasarkan judul pilihan dan ringkasan AI dari API publik AIHOT, dengan sumber yang dicantumkan dan tautan balik; hak cipta konten asli milik media dan penulis aslinya, situs ini tidak menyalin artikel secara penuh.

Tautan asli · Entri AIHOT

Cara mengutip

Saat mengutip artikel ini, sertakan judul, tanggal, dan tautan permanen, serta cantumkan sumber Orange News.

Orange News: Answer.AI mengungkap masalah pemanggilan alat tanpa otorisasi: model seperti Claude dapat memanggil alat yang tidak diberikan dan API tidak memblokirnya. 18 Februari 2026. https://new.nat6.net/id/news/cmtym2sjq0006roax3kmj3qi7/

Lihat semua →