บริจาคเครื่องมือจัดแนวโอเพนซอร์ส Petri
หัวข้อต้นฉบับ:Donating our open-source alignment tool
สรุปโดย AI
ในเดือนตุลาคม 2025 Anthropic เปิดโอเพนซอร์สกล่องเครื่องมือทดสอบการจัดแนวโมเดล AI ชื่อ Petri เพื่อตรวจจับแนวโน้มความเสี่ยง เช่น การหลอกลวงและการประจบประแจงของโมเดลอย่างรวดเร็ว เครื่องมือนี้กลายเป็นส่วนหลักของการประเมินการจัดแนวในตระกูลโมเดล Claude และถูกนำไปใช้โดยหน่วยงานภายนอก เช่น สถาบันความปลอดภัย AI ของสหราชอาณาจักร เมื่อเร็วๆ นี้ Petri อัปเกรดเป็นเวอร์ชัน 3.0 การปรับปรุงหลักได้แก่: การปรับสถาปัตยกรรมเพื่อเพิ่มความยืดหยุ่น อนุญาตให้ปรับแต่งตัวตรวจสอบและโมเดลเป้าหมายแยกกัน ใช้พรอมต์ระบบและสภาพแวดล้อมการติดตั้งจริงผ่านส่วนเสริม "Dish" เพื่อเพิ่มความสมจริงของการทดสอบ และผสานรวมกับ Bloom เครื่องมือโอเพนซอร์สอีกตัวเพื่อการประเมินพฤติกรรมที่ลึกซึ้งยิ่งขึ้น เพื่อรับประกันความเป็นอิสระและความน่าเชื่อถือ การพัฒนา Petri ได้โอนไปยังองค์กรไม่แสวงหากำไร Meridian Labs
สรุปสั้น
- เวลาเผยแพร่
- เวลาอัปเดต
- แหล่งที่มา
- Anthropic:Research(发表成果 · 网页)
- หมวดหมู่
- ผลิตภัณฑ์และแอป
- คะแนน AI
- 73
Petri 从 Anthropic 内部工具箱变成行业公共品,捐赠给 Meridian Labs 意味着对齐评估不再绑定一家公司,做安全测试的团队又多了一个可参考的标尺。
เอนทิตีที่เกี่ยวข้อง
แหล่งที่มาและลิขสิทธิ์
บทความนี้เรียบเรียงจากพาดหัวคัดสรรและบทสรุป AI จาก API สาธารณะของ AIHOT โดยระบุแหล่งที่มาและลิงก์กลับแล้ว ลิขสิทธิ์ต้นฉบับเป็นของสื่อและผู้เขียนต้นทาง เว็บไซต์นี้ไม่ได้สะท้อนเนื้อหาฉบับเต็ม
วิธีอ้างอิง
เมื่ออ้างอิงบทความนี้ โปรดระบุชื่อเรื่อง วันที่ และลิงก์ถาวร พร้อมระบุแหล่งที่มาเป็น Orange News
Orange News: บริจาคเครื่องมือจัดแนวโอเพนซอร์ส Petri 7 พฤษภาคม 2026 https://new.nat6.net/th/news/cmow01hfu01nwslcxdc8cl10x/