ARC terbitkan kemajuan penilaian keupayaan berbahaya Claude dan GPT-4
Tajuk asal:Update on ARC's recent eval efforts
Ringkasan AI
ARC sebagai penilai pihak ketiga bekerjasama dengan makmal Anthropic, OpenAI dan lain-lain, menguji dalam persekitaran terkawal keupayaan berbahaya model termaju memperoleh sumber secara autonomi dan mengelak pengawasan manusia. Kesimpulannya ialah versi Claude dan GPT-4 yang diuji tidak mampu menghasilkan pelan replikasi autonomi lengkap yang boleh dipercayai, mudah tersilap semasa pelaksanaan, berhalusinasi, sukar mengagihkan tugas antara berbilang salinan, tetapi boleh menyelesaikan sebahagian subtugas seperti melayari web, mengupah manusia, dan merangka pelan jangka panjang.
Maklumat penting
- ARC sebagai penilai pihak ketiga bekerjasama dengan makmal Anthropic,OpenAI dan lain-lain,menguji…
- Kesimpulannya ialah versi Claude dan GPT-4 yang diuji tidak mampu menghasilkan pelan replikasi…
- sukar mengagihkan tugas antara berbilang salinan,tetapi boleh menyelesaikan sebahagian subtugas…
Sekilas pandang
- Diterbitkan pada
- Dikemas kini pada
- Sumber
- METR:Research(网页)
- Kategori
- Tutorial dan petua
- Skor AI
- 70
ARC 公布了危险能力评测的动机、方法与结论,读者可以了解模型自主复制能力的评估方式。
Entiti Berkaitan
Sumber dan hak cipta
Artikel ini disusun berdasarkan tajuk pilihan dan ringkasan AI daripada API awam AIHOT, dengan sumber dinyatakan dan pautan balik disediakan; hak cipta teks asal milik media dan penulis asal, laman ini tidak menyalin penuh teks penuh.
Cara memetik
Apabila memetik artikel ini, kekalkan tajuk, tarikh dan pautan kekal, serta nyatakan sumber sebagai Orange News.
Orange News: ARC terbitkan kemajuan penilaian keupayaan berbahaya Claude dan GPT-4. 17 Mac 2023. https://new.nat6.net/ms/news/cmtyo7nb803vtrog068p1fir1/