บทความและงานวิจัย

งานวิจัย Apple พบเซลล์ประสาทเดียวสามารถหลบเลี่ยงการจัดแนวความปลอดภัยของโมเดลภาษาขนาดใหญ่

หัวข้อต้นฉบับ:A Single Neuron Is Sufficient to Bypass Safety Alignment in Large Language Models

สรุปโดย AI

นักวิจัย Apple พบว่าการจัดแนวความปลอดภัยถูกควบคุมโดยเซลล์ประสาทสองประเภท: เซลล์ประสาทปฏิเสธควบคุมว่าความรู้ที่เป็นอันตรายจะแสดงออกหรือไม่ ส่วนเซลล์ประสาทแนวคิดเข้ารหัสความรู้ที่เป็นอันตรายเอง ในเจ็ดโมเดล (1.7B ถึง 70B พารามิเตอร์) การยับยั้งเซลล์ประสาทปฏิเสธเพียงเซลล์เดียวก็เพียงพอต่อการหลบเลี่ยงการจัดแนวความปลอดภัยและตอบคำขอที่เป็นอันตราย หรือการขยายเซลล์ประสาทแนวคิดเพียงเซลล์เดียวก็สามารถชักนำเนื้อหาที่เป็นอันตรายจากพรอมต์ที่ไม่เป็นอันตรายได้ กระบวนการทั้งหมดไม่ต้องใช้การฝึกอบรมหรือวิศวกรรมพรอมต์ ผลลัพธ์แสดงว่าการจัดแนวความปลอดภัยถูกควบคุมเชิงสาเหตุโดยเซลล์ประสาทเฉพาะ

สรุปสั้น

เวลาเผยแพร่
เวลาอัปเดต
แหล่งที่มา
Apple Machine Learning Research(RSS)
หมวดหมู่
บทความและงานวิจัย
คะแนน AI
74
อ่านต้นฉบับ อ่านบทความฉบับเต็มที่แหล่งข่าวต้นฉบับ
เหตุผลที่แนะนำ

苹果发现单个神经元足以绕过大模型安全对齐,在7个模型上验证了攻击,说明安全机制并非稳健分布,做安全攻防的必读。

เอนทิตีที่เกี่ยวข้อง

แหล่งที่มาและลิขสิทธิ์

บทความนี้เรียบเรียงจากพาดหัวคัดสรรและบทสรุป AI จาก API สาธารณะของ AIHOT โดยระบุแหล่งที่มาและลิงก์กลับแล้ว ลิขสิทธิ์ต้นฉบับเป็นของสื่อและผู้เขียนต้นทาง เว็บไซต์นี้ไม่ได้สะท้อนเนื้อหาฉบับเต็ม

ลิงก์ต้นฉบับ · รายการ AIHOT

วิธีอ้างอิง

เมื่ออ้างอิงบทความนี้ โปรดระบุชื่อเรื่อง วันที่ และลิงก์ถาวร พร้อมระบุแหล่งที่มาเป็น Orange News

Orange News: งานวิจัย Apple พบเซลล์ประสาทเดียวสามารถหลบเลี่ยงการจัดแนวความปลอดภัยของโมเดลภาษาขนาดใหญ่ 7 กรกฎาคม 2026 https://new.nat6.net/th/news/cmrasd6r300i2ihog8ifwrqs5/

ดูทั้งหมด →