Kertas penyelidikan

Anthropic bina Automated Weak-to-Strong Researcher, ejen AI melebihi garis dasar manusia dalam penyelidikan penyeliaan lemah ke kuat

Tajuk asal:Automated Weak-to-Strong Researcher

Ringkasan AI

Pasukan Anthropic membina ejen penyelidikan penjajaran automatik (AAR) berasaskan Claude Opus 4.6; 9 ejen selari dalam 5 hari (800 jam terkumpul) meningkatkan performance gap recovered (PGR) penyeliaan lemah ke kuat kepada 0.97, manakala dua penulis manusia yang mengambil 7 hari menala empat kaedah terdahulu hanya mencapai 0.23 terbaik, dengan jumlah kos kira-kira 18,000 dolar AS.

Maklumat penting

  • Pasukan Anthropic membina ejen penyelidikan penjajaran automatik (AAR) berasaskan Claude Opus 4.
  • 9 ejen selari dalam 5 hari (800 jam terkumpul) meningkatkan performance gap recovered (PGR)…
  • 97,manakala dua penulis manusia yang mengambil 7 hari menala empat kaedah terdahulu hanya mencapai…
  • 23 terbaik,dengan jumlah kos kira-kira 18,000 dolar AS.

Sekilas pandang

Diterbitkan pada
Dikemas kini pada
Sumber
Anthropic:Alignment Science Blog(网页)
Kategori
Kertas penyelidikan
Skor AI
65
Baca asal Baca artikel penuh di sumber asal
Sebab disyorkan

Anthropic 用实测数字说明自动化对齐研究已可落地,还记录了智能体的 reward hacking 手法与工程经验,方法可迁移。

Entiti Berkaitan

Sumber dan hak cipta

Artikel ini disusun berdasarkan tajuk pilihan dan ringkasan AI daripada API awam AIHOT, dengan sumber dinyatakan dan pautan balik disediakan; hak cipta teks asal milik media dan penulis asal, laman ini tidak menyalin penuh teks penuh.

Pautan asal · Entri AIHOT

Cara memetik

Apabila memetik artikel ini, kekalkan tajuk, tarikh dan pautan kekal, serta nyatakan sumber sebagai Orange News.

Orange News: Anthropic bina Automated Weak-to-Strong Researcher, ejen AI melebihi garis dasar manusia dalam penyelidikan penyeliaan lemah ke kuat. 14 April 2026. https://new.nat6.net/ms/news/a7v4hrj53mokgs3hoi4x346la/

Lihat Semua →