Tutorial dan petua

ARC terbitkan kemajuan penilaian keupayaan berbahaya Claude dan GPT-4

Tajuk asal:Update on ARC's recent eval efforts

Ringkasan AI

ARC sebagai penilai pihak ketiga bekerjasama dengan makmal Anthropic, OpenAI dan lain-lain, menguji dalam persekitaran terkawal keupayaan berbahaya model termaju memperoleh sumber secara autonomi dan mengelak pengawasan manusia. Kesimpulannya ialah versi Claude dan GPT-4 yang diuji tidak mampu menghasilkan pelan replikasi autonomi lengkap yang boleh dipercayai, mudah tersilap semasa pelaksanaan, berhalusinasi, sukar mengagihkan tugas antara berbilang salinan, tetapi boleh menyelesaikan sebahagian subtugas seperti melayari web, mengupah manusia, dan merangka pelan jangka panjang.

Maklumat penting

  • ARC sebagai penilai pihak ketiga bekerjasama dengan makmal Anthropic,OpenAI dan lain-lain,menguji…
  • Kesimpulannya ialah versi Claude dan GPT-4 yang diuji tidak mampu menghasilkan pelan replikasi…
  • sukar mengagihkan tugas antara berbilang salinan,tetapi boleh menyelesaikan sebahagian subtugas…

Sekilas pandang

Diterbitkan pada
Dikemas kini pada
Sumber
METR:Research(网页)
Kategori
Tutorial dan petua
Skor AI
70
Baca asal Baca artikel penuh di sumber asal
Sebab disyorkan

ARC 公布了危险能力评测的动机、方法与结论,读者可以了解模型自主复制能力的评估方式。

Entiti Berkaitan

Sumber dan hak cipta

Artikel ini disusun berdasarkan tajuk pilihan dan ringkasan AI daripada API awam AIHOT, dengan sumber dinyatakan dan pautan balik disediakan; hak cipta teks asal milik media dan penulis asal, laman ini tidak menyalin penuh teks penuh.

Pautan asal · Entri AIHOT

Cara memetik

Apabila memetik artikel ini, kekalkan tajuk, tarikh dan pautan kekal, serta nyatakan sumber sebagai Orange News.

Orange News: ARC terbitkan kemajuan penilaian keupayaan berbahaya Claude dan GPT-4. 17 Mac 2023. https://new.nat6.net/ms/news/cmtyo7nb803vtrog068p1fir1/

Lihat Semua →