Produk & Aplikasi

Anthropic merilis alat audit keamanan AI sumber terbuka Petri untuk menguji perilaku keselarasan model secara otomatis

Judul asli:Petri: An open-source auditing tool to accelerate AI safety research

Ringkasan AI

Anthropic merilis Petri (Parallel Exploration Tool for Risky Interactions), kerangka audit otomatis sumber terbuka yang menggunakan agen audit AI untuk menguji model target dalam skenario multi-putaran. Alat ini tersedia di github.com/safety-research/petri.

Poin utama

  • Anthropic merilis Petri (Parallel Exploration Tool for Risky Interactions),kerangka audit otomatis…
  • Alat ini tersedia di github.
  • com/safety-research/petri.

Ringkasan cepat

Waktu terbit
Waktu diperbarui
Sumber
Anthropic:Alignment Science Blog(网页)
Kategori
Produk & Aplikasi
Skor AI
71
Baca aslinya Baca artikel lengkap di sumber aslinya
Alasan rekomendasi

Anthropic 开源了用 AI 智能体自动审计目标模型行为的 Petri 框架,读者可以直接复用其审计流程和评分维度设计。

Entitas Terkait

Sumber dan hak cipta

Artikel ini disusun berdasarkan judul pilihan dan ringkasan AI dari API publik AIHOT, dengan sumber yang dicantumkan dan tautan balik; hak cipta konten asli milik media dan penulis aslinya, situs ini tidak menyalin artikel secara penuh.

Tautan asli · Entri AIHOT

Cara mengutip

Saat mengutip artikel ini, sertakan judul, tanggal, dan tautan permanen, serta cantumkan sumber Orange News.

Orange News: Anthropic merilis alat audit keamanan AI sumber terbuka Petri untuk menguji perilaku keselarasan model secara otomatis. 7 Oktober 2025. https://new.nat6.net/id/news/hx673sxz7gq2e6uvq7rep6u4r/

Lihat semua →