Makalah & Riset

Anthropic membiarkan Claude melatih model secara mandiri untuk mengurangi kegagalan alignment

Judul asli:Automated researchers can reliably mitigate alignment failures

Ringkasan AI

Anthropic membiarkan Claude melatih model secara mandiri untuk mengurangi 10 jenis kegagalan alignment seperti penipuan dan sikap menyenangkan, semuanya secara signifikan mempersempit kesenjangan keamanan dengan performa sempurna tanpa merusak kemampuan umum, dan metode ini tetap efektif pada model 4,7 kali lebih besar dari objek optimasi. Claude juga melampaui 28 peneliti keamanan manusia, dengan metode terbaiknya dalam skenario penipuan 20% lebih baik daripada solusi terbaik manusia.

Poin utama

  • Anthropic membiarkan Claude melatih model secara mandiri untuk mengurangi 10 jenis kegagalan…
  • dan metode ini tetap efektif pada model 4,7 kali lebih besar dari objek optimasi.
  • Claude juga melampaui 28 peneliti keamanan manusia,dengan metode terbaiknya dalam skenario…

Ringkasan cepat

Waktu terbit
Waktu diperbarui
Sumber
Anthropic:Research(发表成果 · 网页)
Kategori
Makalah & Riset
Skor AI
78
Baca aslinya Baca artikel lengkap di sumber aslinya
Alasan rekomendasi

自动化对齐研究把安全训练从一次性微调变成可迭代搜索,Claude Sonnet 5 用约两千条训练样本在 60 小时内接近生产对齐水平,数据效率比现有生产流程高约一万五千倍。

Entitas Terkait

Sumber dan hak cipta

Artikel ini disusun berdasarkan judul pilihan dan ringkasan AI dari API publik AIHOT, dengan sumber yang dicantumkan dan tautan balik; hak cipta konten asli milik media dan penulis aslinya, situs ini tidak menyalin artikel secara penuh.

Tautan asli · Entri AIHOT

Cara mengutip

Saat mengutip artikel ini, sertakan judul, tanggal, dan tautan permanen, serta cantumkan sumber Orange News.

Orange News: Anthropic membiarkan Claude melatih model secara mandiri untuk mengurangi kegagalan alignment. 28 Agustus 2026. https://new.nat6.net/id/news/cmtd83hb4018fro667i1tbc34/

Lihat semua →