Produk & Aplikasi

Menyumbangkan alat penyelarasan sumber terbuka Petri

Judul asli:Donating our open-source alignment tool

Ringkasan AI

Pada Oktober 2025, Anthropic merilis sumber terbuka Petri, kotak alat pengujian penyelarasan model AI untuk mendeteksi secara cepat kecenderungan risiko seperti penipuan dan sikap menjilat model. Alat ini telah menjadi bagian inti evaluasi penyelarasan rangkaian model Claude dan diadopsi oleh lembaga eksternal seperti Institut Keamanan AI Inggris. Baru-baru ini, Petri diperbarui ke versi 3.0 dengan peningkatan utama: penyesuaian arsitektur untuk meningkatkan adaptabilitas, memungkinkan penyesuaian auditor dan model target secara terpisah; penggunaan prompt sistem dan lingkungan penerapan nyata melalui komponen tambahan "Dish" untuk meningkatkan realisme pengujian; serta integrasi dengan alat sumber terbuka lain, Bloom, untuk evaluasi perilaku yang lebih mendalam. Untuk memastikan independensi dan kredibilitas, pengembangan Petri telah dialihkan ke organisasi nirlaba Meridian Labs.

Poin utama

  • Pada Oktober 2025,Anthropic merilis sumber terbuka Petri,kotak alat pengujian penyelarasan model…
  • Alat ini telah menjadi bagian inti evaluasi penyelarasan rangkaian model Claude dan diadopsi oleh…
  • Baru-baru ini,Petri diperbarui ke versi 3.
  • 0 dengan peningkatan utama: penyesuaian arsitektur untuk meningkatkan adaptabilitas,memungkinkan…
  • penggunaan prompt sistem dan lingkungan penerapan nyata melalui komponen tambahan "Dish" untuk…

Ringkasan cepat

Waktu terbit
Waktu diperbarui
Sumber
Anthropic:Research(发表成果 · 网页)
Kategori
Produk & Aplikasi
Skor AI
73
Baca aslinya Baca artikel lengkap di sumber aslinya
Alasan rekomendasi

Petri 从 Anthropic 内部工具箱变成行业公共品,捐赠给 Meridian Labs 意味着对齐评估不再绑定一家公司,做安全测试的团队又多了一个可参考的标尺。

Entitas Terkait

Sumber dan hak cipta

Artikel ini disusun berdasarkan judul pilihan dan ringkasan AI dari API publik AIHOT, dengan sumber yang dicantumkan dan tautan balik; hak cipta konten asli milik media dan penulis aslinya, situs ini tidak menyalin artikel secara penuh.

Tautan asli · Entri AIHOT

Cara mengutip

Saat mengutip artikel ini, sertakan judul, tanggal, dan tautan permanen, serta cantumkan sumber Orange News.

Orange News: Menyumbangkan alat penyelarasan sumber terbuka Petri. 7 Mei 2026. https://new.nat6.net/id/news/cmow01hfu01nwslcxdc8cl10x/

Lihat semua →