Anthropic sumber terbuka alat audit keselamatan AI Petri, uji tingkah laku penjajaran model secara automatik dengan ejen
Tajuk asal:Petri: An open-source auditing tool to accelerate AI safety research
Ringkasan AI
Anthropic melancarkan rangka kerja audit automatik sumber terbuka Petri (Parallel Exploration Tool for Risky Interactions), yang menggunakan ejen audit AI untuk menguji model sasaran dalam senario berbilang pusingan, dan alat ini boleh didapati di github.com/safety-research/petri.
Maklumat penting
- Anthropic melancarkan rangka kerja audit automatik sumber terbuka Petri (Parallel Exploration Tool…
- dan alat ini boleh didapati di github.
- com/safety-research/petri.
Sekilas pandang
- Diterbitkan pada
- Dikemas kini pada
- Kategori
- Produk & Aplikasi
- Skor AI
- 71
Anthropic 开源了用 AI 智能体自动审计目标模型行为的 Petri 框架,读者可以直接复用其审计流程和评分维度设计。
Entiti Berkaitan
Sumber dan hak cipta
Artikel ini disusun berdasarkan tajuk pilihan dan ringkasan AI daripada API awam AIHOT, dengan sumber dinyatakan dan pautan balik disediakan; hak cipta teks asal milik media dan penulis asal, laman ini tidak menyalin penuh teks penuh.
Cara memetik
Apabila memetik artikel ini, kekalkan tajuk, tarikh dan pautan kekal, serta nyatakan sumber sebagai Orange News.
Orange News: Anthropic sumber terbuka alat audit keselamatan AI Petri, uji tingkah laku penjajaran model secara automatik dengan ejen. 7 Oktober 2025. https://new.nat6.net/ms/news/hx673sxz7gq2e6uvq7rep6u4r/