Produk & Aplikasi

Anthropic sumber terbuka alat audit keselamatan AI Petri, uji tingkah laku penjajaran model secara automatik dengan ejen

Tajuk asal:Petri: An open-source auditing tool to accelerate AI safety research

Ringkasan AI

Anthropic melancarkan rangka kerja audit automatik sumber terbuka Petri (Parallel Exploration Tool for Risky Interactions), yang menggunakan ejen audit AI untuk menguji model sasaran dalam senario berbilang pusingan, dan alat ini boleh didapati di github.com/safety-research/petri.

Maklumat penting

  • Anthropic melancarkan rangka kerja audit automatik sumber terbuka Petri (Parallel Exploration Tool…
  • dan alat ini boleh didapati di github.
  • com/safety-research/petri.

Sekilas pandang

Diterbitkan pada
Dikemas kini pada
Sumber
Anthropic:Alignment Science Blog(网页)
Kategori
Produk & Aplikasi
Skor AI
71
Baca asal Baca artikel penuh di sumber asal
Sebab disyorkan

Anthropic 开源了用 AI 智能体自动审计目标模型行为的 Petri 框架,读者可以直接复用其审计流程和评分维度设计。

Entiti Berkaitan

Sumber dan hak cipta

Artikel ini disusun berdasarkan tajuk pilihan dan ringkasan AI daripada API awam AIHOT, dengan sumber dinyatakan dan pautan balik disediakan; hak cipta teks asal milik media dan penulis asal, laman ini tidak menyalin penuh teks penuh.

Pautan asal · Entri AIHOT

Cara memetik

Apabila memetik artikel ini, kekalkan tajuk, tarikh dan pautan kekal, serta nyatakan sumber sebagai Orange News.

Orange News: Anthropic sumber terbuka alat audit keselamatan AI Petri, uji tingkah laku penjajaran model secara automatik dengan ejen. 7 Oktober 2025. https://new.nat6.net/ms/news/hx673sxz7gq2e6uvq7rep6u4r/

Lihat Semua →