OpenAI menandatangani kontrak dengan Apollo Research, METR, Transluce, dan Goodfire untuk memulai tahap pertama evaluasi keamanan tertanam
Judul asli:Our first phase of embedded assessments
Ringkasan AI
OpenAI mengumumkan penandatanganan perjanjian dengan empat lembaga evaluasi independen, Apollo Research, METR, Transluce, dan Goodfire, untuk memulai tahap pertama evaluasi keamanan tertanam. Para ahli evaluasi akan memperoleh akses ke sumber daya internal seperti checkpoint model, kode sumber, data pelatihan, dan sistem pemantauan, untuk mengevaluasi secara terpisah kemungkinan model diam-diam menyimpang dari maksud pengembang, interpretabilitas internal model, perilaku tidak selaras pada pelatihan RL terbesar, serta cakupan kualitas evaluasi keselarasan pasca-pelatihan.
Poin utama
- OpenAI mengumumkan penandatanganan perjanjian dengan empat lembaga evaluasi independen,Apollo…
- Para ahli evaluasi akan memperoleh akses ke sumber daya internal seperti checkpoint model,kode…
- interpretabilitas internal model,perilaku tidak selaras pada pelatihan RL terbesar,serta cakupan…
Ringkasan cepat
- Waktu terbit
- Waktu diperbarui
- Sumber
- OpenAI:官网动态(RSS · 排除企业/客户案例)
- Kategori
- Dinamika Industri
- Skor AI
- 64
OpenAI 官方披露了四家独立评估机构的评估范围、访问权限和发布规则,读者可以据此了解第三方嵌入式评估的实际运作方式。
Topik terkait
Entitas Terkait
Sumber dan hak cipta
Artikel ini disusun berdasarkan judul pilihan dan ringkasan AI dari API publik AIHOT, dengan sumber yang dicantumkan dan tautan balik; hak cipta konten asli milik media dan penulis aslinya, situs ini tidak menyalin artikel secara penuh.
Cara mengutip
Saat mengutip artikel ini, sertakan judul, tanggal, dan tautan permanen, serta cantumkan sumber Orange News.
Orange News: OpenAI menandatangani kontrak dengan Apollo Research, METR, Transluce, dan Goodfire untuk memulai tahap pertama evaluasi keamanan tertanam. 16 November 2026. https://new.nat6.net/id/news/qaj2npptre8jgn8xanq9ic965/