บทความและงานวิจัย

"สวิตช์" สำหรับความรู้สอง用途ของโมเดล AI: Anthropic และ AE Studio เสนอวิธี GRAM

หัวข้อต้นฉบับ:An off switch for dual use knowledge in AI models

สรุปโดย AI

Anthropic และ AE Studio ร่วมกันเสนอวิธี Gradient Routing Auxiliary Module (GRAM) โดยเพิ่มโมดูลนิวรอนที่ถอดออกได้ในแต่ละชั้นของ Transformer ทำให้โมเดลระหว่างการฝึกอบรมกำหนดเส้นทางความรู้สอง用途 เช่น ไวรัสวิทยา ความปลอดภัยไซเบอร์ ฟิสิกส์นิวเคลียร์ ภาษาโปรแกรมเฉพาะทาง ไปยังโมดูลที่เกี่ยวข้องเท่านั้น แทนที่จะกระจายไปทั่วทั้งโมเดล หลังการฝึกอบรมสามารถลบโมดูลเพื่อกำจัดความสามารถนั้น หรือเก็บไว้เพื่อการติดตั้งที่เชื่อถือได้ การทดลองบนข้อมูลสังเคราะห์ ข้อมูลจริง และโมเดลขนาด 50M ถึง 5B พารามิเตอร์ พบว่า GRAM ให้ผลเทียบเท่าการกรองข้อมูล การลบโมดูลไม่ลดประสิทธิภาพทั่วไป และกู้คืนได้ยากกว่าเทคนิค "การลืม" ภายหลัง งานวิจัยนี้เสนอแนวทางที่แข็งแกร่งกว่าสำหรับการสร้างสมดุลระหว่างการเข้าถึงความรู้สอง用途อย่างปลอดภัยและการใช้งานที่เป็นประโยชน์

สรุปสั้น

เวลาเผยแพร่
เวลาอัปเดต
แหล่งที่มา
Anthropic:Research(发表成果 · 网页)
หมวดหมู่
บทความและงานวิจัย
คะแนน AI
68
อ่านต้นฉบับ อ่านบทความฉบับเต็มที่แหล่งข่าวต้นฉบับ
เหตุผลที่แนะนำ

这是Anthropic在模型安全对齐上的一个新尝试,提出可拆卸模块来精细控制有毒知识,同时保留一般性能。方法还未上Claude,但实验结果表明这条路可能比简单的拒绝训练更鲁棒。

เอนทิตีที่เกี่ยวข้อง

แหล่งที่มาและลิขสิทธิ์

บทความนี้เรียบเรียงจากพาดหัวคัดสรรและบทสรุป AI จาก API สาธารณะของ AIHOT โดยระบุแหล่งที่มาและลิงก์กลับแล้ว ลิขสิทธิ์ต้นฉบับเป็นของสื่อและผู้เขียนต้นทาง เว็บไซต์นี้ไม่ได้สะท้อนเนื้อหาฉบับเต็ม

ลิงก์ต้นฉบับ · รายการ AIHOT

วิธีอ้างอิง

เมื่ออ้างอิงบทความนี้ โปรดระบุชื่อเรื่อง วันที่ และลิงก์ถาวร พร้อมระบุแหล่งที่มาเป็น Orange News

Orange News: "สวิตช์" สำหรับความรู้สอง用途ของโมเดล AI: Anthropic และ AE Studio เสนอวิธี GRAM 8 กรกฎาคม 2026 https://new.nat6.net/th/news/cmrcpjgf00373ihx5mtyo2fsy/

ดูทั้งหมด →