Penyelidik penjajaran automasi: Memanfaatkan model bahasa besar untuk memperluas penyeliaan boleh skala
Tajuk asal:Automated Alignment Researchers: Using large language models to scale scalable oversight
Ringkasan AI
Anthropic menggunakan 9 Claude Opus 4.6 sebagai penyelidik penjajaran automasi (AAR) untuk menjalankan penyelidikan autonomi selama 800 jam dalam rangka kerja penyeliaan lemah-ke-kuat. Dengan mencadangkan, menguji dan mengoptimumkan penyelesaian penjajaran secara autonomi, AAR meningkatkan kadar pemulihan jurang prestasi (PGR) daripada 0.23 kepada 0.97 dengan kos kira-kira 18,000 dolar AS. Kajian ini menunjukkan model bahasa besar semasa sudah mampu menjalankan penyelidikan penjajaran secara bebas, menyediakan laluan yang boleh dilaksanakan untuk menyelesaikan masalah penyeliaan boleh skala bagi AI melebihi manusia.
Maklumat penting
- Anthropic menggunakan 9 Claude Opus 4.
- 6 sebagai penyelidik penjajaran automasi (AAR) untuk menjalankan penyelidikan autonomi selama 800…
- Dengan mencadangkan,menguji dan mengoptimumkan penyelesaian penjajaran secara autonomi,AAR…
- 23 kepada 0.
- 97 dengan kos kira-kira 18,000 dolar AS.
Sekilas pandang
- Diterbitkan pada
- Dikemas kini pada
- Kategori
- Kertas penyelidikan
- Skor AI
- 74
Anthropic 让 Claude 自主探索对齐方法并接近完美恢复性能,自动化对齐研究的实证终于来了,代码开源,对齐研究者该认真看一遍。
Entiti Berkaitan
Sumber dan hak cipta
Artikel ini disusun berdasarkan tajuk pilihan dan ringkasan AI daripada API awam AIHOT, dengan sumber dinyatakan dan pautan balik disediakan; hak cipta teks asal milik media dan penulis asal, laman ini tidak menyalin penuh teks penuh.
Cara memetik
Apabila memetik artikel ini, kekalkan tajuk, tarikh dan pautan kekal, serta nyatakan sumber sebagai Orange News.
Orange News: Penyelidik penjajaran automasi: Memanfaatkan model bahasa besar untuk memperluas penyeliaan boleh skala. 14 April 2026. https://new.nat6.net/ms/news/cmnyzulbd01gcsl0fgdwxquf2/