Makalah & Riset

Anthropic mengembangkan dan mengevaluasi tiga agen yang menjalankan audit keselarasan secara otomatis

Judul asli:Building and evaluating alignment auditing agents

Ringkasan AI

Anthropic merilis tiga agen yang secara otonom menjalankan tugas audit keselarasan dan mengevaluasinya dalam lingkungan model dengan cacat yang ditanamkan. Agen investigasi memecahkan permainan audit Marks et al. dengan tingkat kemenangan 13% dalam kondisi nyata, meningkat menjadi 42% setelah agregasi multiagen; agen evaluasi mampu membedakan model dengan dan tanpa perilaku yang ditanamkan dalam 88% eksekusi; agen red team breadth-first menemukan 7 dari 10 perilaku yang ditanamkan.

Poin utama

  • Anthropic merilis tiga agen yang secara otonom menjalankan tugas audit keselarasan dan…
  • Agen investigasi memecahkan permainan audit Marks et al.
  • dengan tingkat kemenangan 13% dalam kondisi nyata,meningkat menjadi 42% setelah agregasi multiagen
  • agen evaluasi mampu membedakan model dengan dan tanpa perilaku yang ditanamkan dalam 88% eksekusi
  • agen red team breadth-first menemukan 7 dari 10 perilaku yang ditanamkan.

Ringkasan cepat

Waktu terbit
Waktu diperbarui
Sumber
Anthropic:Alignment Science Blog(网页)
Kategori
Makalah & Riset
Skor AI
68
Baca aslinya Baca artikel lengkap di sumber aslinya
Alasan rekomendasi

Anthropic 报告了三个对齐审计智能体在植入缺陷模型上的可复现成绩,并公开部分代码与提示词,读者可以了解自动化审计的实际能力与局限。

Entitas Terkait

Sumber dan hak cipta

Artikel ini disusun berdasarkan judul pilihan dan ringkasan AI dari API publik AIHOT, dengan sumber yang dicantumkan dan tautan balik; hak cipta konten asli milik media dan penulis aslinya, situs ini tidak menyalin artikel secara penuh.

Tautan asli · Entri AIHOT

Cara mengutip

Saat mengutip artikel ini, sertakan judul, tanggal, dan tautan permanen, serta cantumkan sumber Orange News.

Orange News: Anthropic mengembangkan dan mengevaluasi tiga agen yang menjalankan audit keselarasan secara otomatis. 25 Juli 2025. https://new.nat6.net/id/news/b2vmn7tkytgs01vo5htab6uon/

Lihat semua →