งานวิจัย Apple พบเซลล์ประสาทเดียวสามารถหลบเลี่ยงการจัดแนวความปลอดภัยของโมเดลภาษาขนาดใหญ่
หัวข้อต้นฉบับ:A Single Neuron Is Sufficient to Bypass Safety Alignment in Large Language Models
สรุปโดย AI
นักวิจัย Apple พบว่าการจัดแนวความปลอดภัยถูกควบคุมโดยเซลล์ประสาทสองประเภท: เซลล์ประสาทปฏิเสธควบคุมว่าความรู้ที่เป็นอันตรายจะแสดงออกหรือไม่ ส่วนเซลล์ประสาทแนวคิดเข้ารหัสความรู้ที่เป็นอันตรายเอง ในเจ็ดโมเดล (1.7B ถึง 70B พารามิเตอร์) การยับยั้งเซลล์ประสาทปฏิเสธเพียงเซลล์เดียวก็เพียงพอต่อการหลบเลี่ยงการจัดแนวความปลอดภัยและตอบคำขอที่เป็นอันตราย หรือการขยายเซลล์ประสาทแนวคิดเพียงเซลล์เดียวก็สามารถชักนำเนื้อหาที่เป็นอันตรายจากพรอมต์ที่ไม่เป็นอันตรายได้ กระบวนการทั้งหมดไม่ต้องใช้การฝึกอบรมหรือวิศวกรรมพรอมต์ ผลลัพธ์แสดงว่าการจัดแนวความปลอดภัยถูกควบคุมเชิงสาเหตุโดยเซลล์ประสาทเฉพาะ
สรุปสั้น
- เวลาเผยแพร่
- เวลาอัปเดต
- แหล่งที่มา
- Apple Machine Learning Research(RSS)
- หมวดหมู่
- บทความและงานวิจัย
- คะแนน AI
- 74
苹果发现单个神经元足以绕过大模型安全对齐,在7个模型上验证了攻击,说明安全机制并非稳健分布,做安全攻防的必读。
เอนทิตีที่เกี่ยวข้อง
แหล่งที่มาและลิขสิทธิ์
บทความนี้เรียบเรียงจากพาดหัวคัดสรรและบทสรุป AI จาก API สาธารณะของ AIHOT โดยระบุแหล่งที่มาและลิงก์กลับแล้ว ลิขสิทธิ์ต้นฉบับเป็นของสื่อและผู้เขียนต้นทาง เว็บไซต์นี้ไม่ได้สะท้อนเนื้อหาฉบับเต็ม
วิธีอ้างอิง
เมื่ออ้างอิงบทความนี้ โปรดระบุชื่อเรื่อง วันที่ และลิงก์ถาวร พร้อมระบุแหล่งที่มาเป็น Orange News
Orange News: งานวิจัย Apple พบเซลล์ประสาทเดียวสามารถหลบเลี่ยงการจัดแนวความปลอดภัยของโมเดลภาษาขนาดใหญ่ 7 กรกฎาคม 2026 https://new.nat6.net/th/news/cmrasd6r300i2ihog8ifwrqs5/