Makalah & Riset

Peneliti penyelarasan otomatis: memanfaatkan model bahasa besar untuk memperluas pengawasan yang dapat diskalakan

Judul asli:Automated Alignment Researchers: Using large language models to scale scalable oversight

Ringkasan AI

Anthropic menerapkan 9 Claude Opus 4.6 sebagai peneliti penyelarasan otomatis (AARs) yang secara mandiri meneliti selama 800 jam dalam kerangka pengawasan lemah-ke-kuat. Dengan mengajukan, menguji, dan mengoptimalkan solusi penyelarasan secara mandiri, AARs meningkatkan tingkat pemulihan kesenjangan performa (PGR) dari 0,23 menjadi 0,97 dengan biaya sekitar 18.000 dolar AS. Studi ini menunjukkan bahwa model bahasa besar saat ini telah mampu melakukan penelitian penyelarasan secara mandiri, memberikan jalur yang layak untuk mengatasi masalah pengawasan yang dapat diskalakan bagi AI superhuman.

Poin utama

  • Anthropic menerapkan 9 Claude Opus 4.
  • 6 sebagai peneliti penyelarasan otomatis (AARs) yang secara mandiri meneliti selama 800 jam dalam…
  • Dengan mengajukan,menguji,dan mengoptimalkan solusi penyelarasan secara mandiri,AARs meningkatkan…
  • 000 dolar AS.
  • Studi ini menunjukkan bahwa model bahasa besar saat ini telah mampu melakukan penelitian…

Ringkasan cepat

Waktu terbit
Waktu diperbarui
Sumber
Anthropic:Research(发表成果 · 网页)
Kategori
Makalah & Riset
Skor AI
74
Baca aslinya Baca artikel lengkap di sumber aslinya
Alasan rekomendasi

Anthropic 让 Claude 自主探索对齐方法并接近完美恢复性能,自动化对齐研究的实证终于来了,代码开源,对齐研究者该认真看一遍。

Entitas Terkait

Sumber dan hak cipta

Artikel ini disusun berdasarkan judul pilihan dan ringkasan AI dari API publik AIHOT, dengan sumber yang dicantumkan dan tautan balik; hak cipta konten asli milik media dan penulis aslinya, situs ini tidak menyalin artikel secara penuh.

Tautan asli · Entri AIHOT

Cara mengutip

Saat mengutip artikel ini, sertakan judul, tanggal, dan tautan permanen, serta cantumkan sumber Orange News.

Orange News: Peneliti penyelarasan otomatis: memanfaatkan model bahasa besar untuk memperluas pengawasan yang dapat diskalakan. 14 April 2026. https://new.nat6.net/id/news/cmnyzulbd01gcsl0fgdwxquf2/

Lihat semua →