Anthropic mengembangkan dan mengevaluasi tiga agen yang menjalankan audit keselarasan secara otomatis
Judul asli:Building and evaluating alignment auditing agents
Ringkasan AI
Anthropic merilis tiga agen yang secara otonom menjalankan tugas audit keselarasan dan mengevaluasinya dalam lingkungan model dengan cacat yang ditanamkan. Agen investigasi memecahkan permainan audit Marks et al. dengan tingkat kemenangan 13% dalam kondisi nyata, meningkat menjadi 42% setelah agregasi multiagen; agen evaluasi mampu membedakan model dengan dan tanpa perilaku yang ditanamkan dalam 88% eksekusi; agen red team breadth-first menemukan 7 dari 10 perilaku yang ditanamkan.
Poin utama
- Anthropic merilis tiga agen yang secara otonom menjalankan tugas audit keselarasan dan…
- Agen investigasi memecahkan permainan audit Marks et al.
- dengan tingkat kemenangan 13% dalam kondisi nyata,meningkat menjadi 42% setelah agregasi multiagen
- agen evaluasi mampu membedakan model dengan dan tanpa perilaku yang ditanamkan dalam 88% eksekusi
- agen red team breadth-first menemukan 7 dari 10 perilaku yang ditanamkan.
Ringkasan cepat
- Waktu terbit
- Waktu diperbarui
- Kategori
- Makalah & Riset
- Skor AI
- 68
Anthropic 报告了三个对齐审计智能体在植入缺陷模型上的可复现成绩,并公开部分代码与提示词,读者可以了解自动化审计的实际能力与局限。
Entitas Terkait
Sumber dan hak cipta
Artikel ini disusun berdasarkan judul pilihan dan ringkasan AI dari API publik AIHOT, dengan sumber yang dicantumkan dan tautan balik; hak cipta konten asli milik media dan penulis aslinya, situs ini tidak menyalin artikel secara penuh.
Cara mengutip
Saat mengutip artikel ini, sertakan judul, tanggal, dan tautan permanen, serta cantumkan sumber Orange News.
Orange News: Anthropic mengembangkan dan mengevaluasi tiga agen yang menjalankan audit keselarasan secara otomatis. 25 Juli 2025. https://new.nat6.net/id/news/b2vmn7tkytgs01vo5htab6uon/