ผลิตภัณฑ์และแอป

บริจาคเครื่องมือจัดแนวโอเพนซอร์ส Petri

หัวข้อต้นฉบับ:Donating our open-source alignment tool

สรุปโดย AI

ในเดือนตุลาคม 2025 Anthropic เปิดโอเพนซอร์สกล่องเครื่องมือทดสอบการจัดแนวโมเดล AI ชื่อ Petri เพื่อตรวจจับแนวโน้มความเสี่ยง เช่น การหลอกลวงและการประจบประแจงของโมเดลอย่างรวดเร็ว เครื่องมือนี้กลายเป็นส่วนหลักของการประเมินการจัดแนวในตระกูลโมเดล Claude และถูกนำไปใช้โดยหน่วยงานภายนอก เช่น สถาบันความปลอดภัย AI ของสหราชอาณาจักร เมื่อเร็วๆ นี้ Petri อัปเกรดเป็นเวอร์ชัน 3.0 การปรับปรุงหลักได้แก่: การปรับสถาปัตยกรรมเพื่อเพิ่มความยืดหยุ่น อนุญาตให้ปรับแต่งตัวตรวจสอบและโมเดลเป้าหมายแยกกัน ใช้พรอมต์ระบบและสภาพแวดล้อมการติดตั้งจริงผ่านส่วนเสริม "Dish" เพื่อเพิ่มความสมจริงของการทดสอบ และผสานรวมกับ Bloom เครื่องมือโอเพนซอร์สอีกตัวเพื่อการประเมินพฤติกรรมที่ลึกซึ้งยิ่งขึ้น เพื่อรับประกันความเป็นอิสระและความน่าเชื่อถือ การพัฒนา Petri ได้โอนไปยังองค์กรไม่แสวงหากำไร Meridian Labs

สรุปสั้น

เวลาเผยแพร่
เวลาอัปเดต
แหล่งที่มา
Anthropic:Research(发表成果 · 网页)
หมวดหมู่
ผลิตภัณฑ์และแอป
คะแนน AI
73
อ่านต้นฉบับ อ่านบทความฉบับเต็มที่แหล่งข่าวต้นฉบับ
เหตุผลที่แนะนำ

Petri 从 Anthropic 内部工具箱变成行业公共品,捐赠给 Meridian Labs 意味着对齐评估不再绑定一家公司,做安全测试的团队又多了一个可参考的标尺。

เอนทิตีที่เกี่ยวข้อง

แหล่งที่มาและลิขสิทธิ์

บทความนี้เรียบเรียงจากพาดหัวคัดสรรและบทสรุป AI จาก API สาธารณะของ AIHOT โดยระบุแหล่งที่มาและลิงก์กลับแล้ว ลิขสิทธิ์ต้นฉบับเป็นของสื่อและผู้เขียนต้นทาง เว็บไซต์นี้ไม่ได้สะท้อนเนื้อหาฉบับเต็ม

ลิงก์ต้นฉบับ · รายการ AIHOT

วิธีอ้างอิง

เมื่ออ้างอิงบทความนี้ โปรดระบุชื่อเรื่อง วันที่ และลิงก์ถาวร พร้อมระบุแหล่งที่มาเป็น Orange News

Orange News: บริจาคเครื่องมือจัดแนวโอเพนซอร์ส Petri 7 พฤษภาคม 2026 https://new.nat6.net/th/news/cmow01hfu01nwslcxdc8cl10x/

ดูทั้งหมด →