บทความและงานวิจัย

Anthropic และอื่นๆ เปิดเผยการเรียนรู้ใต้ขีดจำกัด: โมเดลถ่ายทอดลักษณะพฤติกรรมและแนวโน้มผิดปกติผ่านข้อมูลที่ไม่เกี่ยวข้อง

หัวข้อต้นฉบับ:Subliminal Learning: Language Models Transmit Behavioral Traits via Hidden Signals in Data

สรุปโดย AI

งานวิจัยของ Anthropic Fellows Program และสถาบันอื่นๆ เสนอปรากฏการณ์การเรียนรู้ใต้ขีดจำกัด: โมเดลนักเรียนหลังจากปรับแต่งบนลำดับตัวเลข โค้ด หรือห่วงโซ่ความคิดที่โมเดลครูสร้างขึ้น จะได้ลักษณะของครู รวมถึงความชอบนกฮูกและแนวโน้มผิดปกติ แม้ข้อมูลจะผ่านการกรองอย่างเข้มงวดและไม่มีเนื้อหาที่เกี่ยวข้องเลย

สรุปสั้น

เวลาเผยแพร่
เวลาอัปเดต
แหล่งที่มา
Anthropic:Alignment Science Blog(网页)
หมวดหมู่
บทความและงานวิจัย
คะแนน AI
72
อ่านต้นฉบับ อ่านบทความฉบับเต็มที่แหล่งข่าวต้นฉบับ
เหตุผลที่แนะนำ

论文展示了看似无关的模型生成数据也能传递行为特质,为依赖过滤的蒸馏训练流程提示了一类难以消除的风险。

เอนทิตีที่เกี่ยวข้อง

แหล่งที่มาและลิขสิทธิ์

บทความนี้เรียบเรียงจากพาดหัวคัดสรรและบทสรุป AI จาก API สาธารณะของ AIHOT โดยระบุแหล่งที่มาและลิงก์กลับแล้ว ลิขสิทธิ์ต้นฉบับเป็นของสื่อและผู้เขียนต้นทาง เว็บไซต์นี้ไม่ได้สะท้อนเนื้อหาฉบับเต็ม

ลิงก์ต้นฉบับ · รายการ AIHOT

วิธีอ้างอิง

เมื่ออ้างอิงบทความนี้ โปรดระบุชื่อเรื่อง วันที่ และลิงก์ถาวร พร้อมระบุแหล่งที่มาเป็น Orange News

Orange News: Anthropic และอื่นๆ เปิดเผยการเรียนรู้ใต้ขีดจำกัด: โมเดลถ่ายทอดลักษณะพฤติกรรมและแนวโน้มผิดปกติผ่านข้อมูลที่ไม่เกี่ยวข้อง 23 กรกฎาคม 2025 https://new.nat6.net/th/news/j1tnug0d3wrddwedm33p8tptg/

ดูทั้งหมด →