Menderma alat penjajaran sumber terbuka Petri
Tajuk asal:Donating our open-source alignment tool
Ringkasan AI
Pada Oktober 2025, Anthropic telah menyumberterbuka kotak alat ujian penjajaran model AI Petri untuk mengesan dengan pantas kecenderungan risiko model seperti penipuan dan pujian berlebihan. Alat ini telah menjadi bahagian teras penilaian penjajaran siri model Claude, dan digunakan oleh institusi luar seperti Institut Keselamatan AI UK. Baru-baru ini, Petri dinaik taraf ke versi 3.0, dengan penambahbaikan utama termasuk: pelarasan seni bina meningkatkan kebolehsuaian, membolehkan pelarasan berasingan model audit dan model sasaran; menggunakan gesaan sistem sebenar dan persekitaran penggunaan melalui komponen tambahan "Dish" untuk meningkatkan realisme ujian; integrasi dengan alat sumber terbuka lain Bloom untuk penilaian tingkah laku yang lebih mendalam. Bagi memastikan kebebasan dan kredibiliti, pembangunan Petri telah diserahkan kepada organisasi bukan untung Meridian Labs.
Maklumat penting
- Pada Oktober 2025,Anthropic telah menyumberterbuka kotak alat ujian penjajaran model AI Petri…
- Alat ini telah menjadi bahagian teras penilaian penjajaran siri model Claude,dan digunakan oleh…
- Baru-baru ini,Petri dinaik taraf ke versi 3.
- 0,dengan penambahbaikan utama termasuk: pelarasan seni bina meningkatkan kebolehsuaian,membolehkan…
- menggunakan gesaan sistem sebenar dan persekitaran penggunaan melalui komponen tambahan "Dish"…
Sekilas pandang
- Diterbitkan pada
- Dikemas kini pada
- Kategori
- Produk & Aplikasi
- Skor AI
- 73
Petri 从 Anthropic 内部工具箱变成行业公共品,捐赠给 Meridian Labs 意味着对齐评估不再绑定一家公司,做安全测试的团队又多了一个可参考的标尺。
Entiti Berkaitan
Sumber dan hak cipta
Artikel ini disusun berdasarkan tajuk pilihan dan ringkasan AI daripada API awam AIHOT, dengan sumber dinyatakan dan pautan balik disediakan; hak cipta teks asal milik media dan penulis asal, laman ini tidak menyalin penuh teks penuh.
Cara memetik
Apabila memetik artikel ini, kekalkan tajuk, tarikh dan pautan kekal, serta nyatakan sumber sebagai Orange News.
Orange News: Menderma alat penjajaran sumber terbuka Petri. 7 Mei 2026. https://new.nat6.net/ms/news/cmow01hfu01nwslcxdc8cl10x/