Kertas penyelidikan

Anthropic benarkan Claude melatih model secara autonomi untuk atasi kegagalan penjajaran

Tajuk asal:Automated researchers can reliably mitigate alignment failures

Ringkasan AI

Anthropic membenarkan Claude melatih model secara autonomi, mengurangkan 10 kategori kegagalan penjajaran seperti penipuan dan pujian berlebihan, semuanya mengecilkan jurang keselamatan dengan prestasi sempurna secara ketara tanpa menjejaskan keupayaan umum, kaedah ini masih berkesan pada model 4.7 kali lebih besar daripada objek pengoptimuman. Claude juga mengatasi 28 penyelidik keselamatan manusia, kaedah terbaiknya dalam senario penipuan adalah 20% lebih baik daripada penyelesaian terbaik manusia.

Maklumat penting

  • Anthropic membenarkan Claude melatih model secara autonomi,mengurangkan 10 kategori kegagalan…
  • 7 kali lebih besar daripada objek pengoptimuman.
  • Claude juga mengatasi 28 penyelidik keselamatan manusia,kaedah terbaiknya dalam senario penipuan…

Sekilas pandang

Diterbitkan pada
Dikemas kini pada
Sumber
Anthropic:Research(发表成果 · 网页)
Kategori
Kertas penyelidikan
Skor AI
78
Baca asal Baca artikel penuh di sumber asal
Sebab disyorkan

自动化对齐研究把安全训练从一次性微调变成可迭代搜索,Claude Sonnet 5 用约两千条训练样本在 60 小时内接近生产对齐水平,数据效率比现有生产流程高约一万五千倍。

Entiti Berkaitan

Sumber dan hak cipta

Artikel ini disusun berdasarkan tajuk pilihan dan ringkasan AI daripada API awam AIHOT, dengan sumber dinyatakan dan pautan balik disediakan; hak cipta teks asal milik media dan penulis asal, laman ini tidak menyalin penuh teks penuh.

Pautan asal · Entri AIHOT

Cara memetik

Apabila memetik artikel ini, kekalkan tajuk, tarikh dan pautan kekal, serta nyatakan sumber sebagai Orange News.

Orange News: Anthropic benarkan Claude melatih model secara autonomi untuk atasi kegagalan penjajaran. 28 Ogos 2026. https://new.nat6.net/ms/news/cmtd83hb4018fro667i1tbc34/

Lihat Semua →