Kertas penyelidikan

Penyelidik penjajaran automasi: Memanfaatkan model bahasa besar untuk memperluas penyeliaan boleh skala

Tajuk asal:Automated Alignment Researchers: Using large language models to scale scalable oversight

Ringkasan AI

Anthropic menggunakan 9 Claude Opus 4.6 sebagai penyelidik penjajaran automasi (AAR) untuk menjalankan penyelidikan autonomi selama 800 jam dalam rangka kerja penyeliaan lemah-ke-kuat. Dengan mencadangkan, menguji dan mengoptimumkan penyelesaian penjajaran secara autonomi, AAR meningkatkan kadar pemulihan jurang prestasi (PGR) daripada 0.23 kepada 0.97 dengan kos kira-kira 18,000 dolar AS. Kajian ini menunjukkan model bahasa besar semasa sudah mampu menjalankan penyelidikan penjajaran secara bebas, menyediakan laluan yang boleh dilaksanakan untuk menyelesaikan masalah penyeliaan boleh skala bagi AI melebihi manusia.

Maklumat penting

  • Anthropic menggunakan 9 Claude Opus 4.
  • 6 sebagai penyelidik penjajaran automasi (AAR) untuk menjalankan penyelidikan autonomi selama 800…
  • Dengan mencadangkan,menguji dan mengoptimumkan penyelesaian penjajaran secara autonomi,AAR…
  • 23 kepada 0.
  • 97 dengan kos kira-kira 18,000 dolar AS.

Sekilas pandang

Diterbitkan pada
Dikemas kini pada
Sumber
Anthropic:Research(发表成果 · 网页)
Kategori
Kertas penyelidikan
Skor AI
74
Baca asal Baca artikel penuh di sumber asal
Sebab disyorkan

Anthropic 让 Claude 自主探索对齐方法并接近完美恢复性能,自动化对齐研究的实证终于来了,代码开源,对齐研究者该认真看一遍。

Entiti Berkaitan

Sumber dan hak cipta

Artikel ini disusun berdasarkan tajuk pilihan dan ringkasan AI daripada API awam AIHOT, dengan sumber dinyatakan dan pautan balik disediakan; hak cipta teks asal milik media dan penulis asal, laman ini tidak menyalin penuh teks penuh.

Pautan asal · Entri AIHOT

Cara memetik

Apabila memetik artikel ini, kekalkan tajuk, tarikh dan pautan kekal, serta nyatakan sumber sebagai Orange News.

Orange News: Penyelidik penjajaran automasi: Memanfaatkan model bahasa besar untuk memperluas penyeliaan boleh skala. 14 April 2026. https://new.nat6.net/ms/news/cmnyzulbd01gcsl0fgdwxquf2/

Lihat Semua →