ความเห็นและบทวิเคราะห์

Answer.AI เปิดเผยปัญหาการเรียกใช้เครื่องมือโดยไม่ได้รับอนุญาต โมเดลอย่าง Claude สามารถเรียกเครื่องมือที่ไม่ได้ให้สิทธิ์และ API ไม่สกัดกั้น

หัวข้อต้นฉบับ:The unauthorized tool call problem

สรุปโดย AI

Piotr Czapla ของ Answer.AI พบว่า Claude 4.5 สร้างเครื่องมือ add_msg ที่ไม่ได้ให้สิทธิ์ขึ้นมาแบบหลอนในการสนทนา solveit และเรียกใช้งานได้สำเร็จ โดย API ไม่สกัดกั้น และยังพบพฤติกรรมคล้ายกันบน Gemini และ Grok ด้วย

ข้อมูลสำคัญ

  • Piotr Czapla ของ Answer.
  • AI พบว่า Claude 4.
  • 5 สร้างเครื่องมือ add_msg ที่ไม่ได้ให้สิทธิ์ขึ้นมาแบบหลอนในการสนทนา solveit…

สรุปสั้น

เวลาเผยแพร่
เวลาอัปเดต
แหล่งที่มา
Answer.AI 官方研发博客(RSS)
หมวดหมู่
ความเห็นและบทวิเคราะห์
คะแนน AI
66
อ่านต้นฉบับ อ่านบทความฉบับเต็มที่แหล่งข่าวต้นฉบับ
เหตุผลที่แนะนำ

作者以可复现的实验展示 API 层不校验工具名带来的安全缺口,并给出客户端侧的简单修复思路。

เอนทิตีที่เกี่ยวข้อง

แหล่งที่มาและลิขสิทธิ์

บทความนี้เรียบเรียงจากพาดหัวคัดสรรและบทสรุป AI จาก API สาธารณะของ AIHOT โดยระบุแหล่งที่มาและลิงก์กลับแล้ว ลิขสิทธิ์ต้นฉบับเป็นของสื่อและผู้เขียนต้นทาง เว็บไซต์นี้ไม่ได้สะท้อนเนื้อหาฉบับเต็ม

ลิงก์ต้นฉบับ · รายการ AIHOT

วิธีอ้างอิง

เมื่ออ้างอิงบทความนี้ โปรดระบุชื่อเรื่อง วันที่ และลิงก์ถาวร พร้อมระบุแหล่งที่มาเป็น Orange News

Orange News: Answer.AI เปิดเผยปัญหาการเรียกใช้เครื่องมือโดยไม่ได้รับอนุญาต โมเดลอย่าง Claude สามารถเรียกเครื่องมือที่ไม่ได้ให้สิทธิ์และ API ไม่สกัดกั้น 18 กุมภาพันธ์ 2026 https://new.nat6.net/th/news/cmtym2sjq0006roax3kmj3qi7/

ดูทั้งหมด →