Anthropic bangun dan nilai tiga ejen yang laksanakan audit penjajaran secara automatik
Tajuk asal:Building and evaluating alignment auditing agents
Ringkasan AI
Anthropic menerbitkan tiga ejen yang melaksanakan tugas audit penjajaran secara autonomi dan menilainya dalam persekitaran model dengan kecacatan tertanam. Ejen penyiasat menyelesaikan permainan audit Marks et al. dengan kadar kemenangan 13% dalam keadaan sebenar, meningkat kepada 42% selepas pengagregatan berbilang ejen; ejen penilai dapat membezakan model dengan/tanpa tingkah laku tertanam dalam 88% larian; ejen red team carian meluas menemui 7 daripada 10 tingkah laku tertanam.
Maklumat penting
- Anthropic menerbitkan tiga ejen yang melaksanakan tugas audit penjajaran secara autonomi dan…
- Ejen penyiasat menyelesaikan permainan audit Marks et al.
- dengan kadar kemenangan 13% dalam keadaan sebenar,meningkat kepada 42% selepas pengagregatan…
- ejen penilai dapat membezakan model dengan/tanpa tingkah laku tertanam dalam 88% larian
- ejen red team carian meluas menemui 7 daripada 10 tingkah laku tertanam.
Sekilas pandang
- Diterbitkan pada
- Dikemas kini pada
- Kategori
- Kertas penyelidikan
- Skor AI
- 68
Anthropic 报告了三个对齐审计智能体在植入缺陷模型上的可复现成绩,并公开部分代码与提示词,读者可以了解自动化审计的实际能力与局限。
Entiti Berkaitan
Sumber dan hak cipta
Artikel ini disusun berdasarkan tajuk pilihan dan ringkasan AI daripada API awam AIHOT, dengan sumber dinyatakan dan pautan balik disediakan; hak cipta teks asal milik media dan penulis asal, laman ini tidak menyalin penuh teks penuh.
Cara memetik
Apabila memetik artikel ini, kekalkan tajuk, tarikh dan pautan kekal, serta nyatakan sumber sebagai Orange News.
Orange News: Anthropic bangun dan nilai tiga ejen yang laksanakan audit penjajaran secara automatik. 25 Julai 2025. https://new.nat6.net/ms/news/b2vmn7tkytgs01vo5htab6uon/