Peneliti penyelarasan otomatis: memanfaatkan model bahasa besar untuk memperluas pengawasan yang dapat diskalakan
Judul asli:Automated Alignment Researchers: Using large language models to scale scalable oversight
Ringkasan AI
Anthropic menerapkan 9 Claude Opus 4.6 sebagai peneliti penyelarasan otomatis (AARs) yang secara mandiri meneliti selama 800 jam dalam kerangka pengawasan lemah-ke-kuat. Dengan mengajukan, menguji, dan mengoptimalkan solusi penyelarasan secara mandiri, AARs meningkatkan tingkat pemulihan kesenjangan performa (PGR) dari 0,23 menjadi 0,97 dengan biaya sekitar 18.000 dolar AS. Studi ini menunjukkan bahwa model bahasa besar saat ini telah mampu melakukan penelitian penyelarasan secara mandiri, memberikan jalur yang layak untuk mengatasi masalah pengawasan yang dapat diskalakan bagi AI superhuman.
Poin utama
- Anthropic menerapkan 9 Claude Opus 4.
- 6 sebagai peneliti penyelarasan otomatis (AARs) yang secara mandiri meneliti selama 800 jam dalam…
- Dengan mengajukan,menguji,dan mengoptimalkan solusi penyelarasan secara mandiri,AARs meningkatkan…
- 000 dolar AS.
- Studi ini menunjukkan bahwa model bahasa besar saat ini telah mampu melakukan penelitian…
Ringkasan cepat
- Waktu terbit
- Waktu diperbarui
- Kategori
- Makalah & Riset
- Skor AI
- 74
Anthropic 让 Claude 自主探索对齐方法并接近完美恢复性能,自动化对齐研究的实证终于来了,代码开源,对齐研究者该认真看一遍。
Entitas Terkait
Sumber dan hak cipta
Artikel ini disusun berdasarkan judul pilihan dan ringkasan AI dari API publik AIHOT, dengan sumber yang dicantumkan dan tautan balik; hak cipta konten asli milik media dan penulis aslinya, situs ini tidak menyalin artikel secara penuh.
Cara mengutip
Saat mengutip artikel ini, sertakan judul, tanggal, dan tautan permanen, serta cantumkan sumber Orange News.
Orange News: Peneliti penyelarasan otomatis: memanfaatkan model bahasa besar untuk memperluas pengawasan yang dapat diskalakan. 14 April 2026. https://new.nat6.net/id/news/cmnyzulbd01gcsl0fgdwxquf2/