Dinamika Industri

OpenAI menandatangani kontrak dengan Apollo Research, METR, Transluce, dan Goodfire untuk memulai tahap pertama evaluasi keamanan tertanam

Judul asli:Our first phase of embedded assessments

Ringkasan AI

OpenAI mengumumkan penandatanganan perjanjian dengan empat lembaga evaluasi independen, Apollo Research, METR, Transluce, dan Goodfire, untuk memulai tahap pertama evaluasi keamanan tertanam. Para ahli evaluasi akan memperoleh akses ke sumber daya internal seperti checkpoint model, kode sumber, data pelatihan, dan sistem pemantauan, untuk mengevaluasi secara terpisah kemungkinan model diam-diam menyimpang dari maksud pengembang, interpretabilitas internal model, perilaku tidak selaras pada pelatihan RL terbesar, serta cakupan kualitas evaluasi keselarasan pasca-pelatihan.

Poin utama

  • OpenAI mengumumkan penandatanganan perjanjian dengan empat lembaga evaluasi independen,Apollo…
  • Para ahli evaluasi akan memperoleh akses ke sumber daya internal seperti checkpoint model,kode…
  • interpretabilitas internal model,perilaku tidak selaras pada pelatihan RL terbesar,serta cakupan…

Ringkasan cepat

Waktu terbit
Waktu diperbarui
Sumber
OpenAI:官网动态(RSS · 排除企业/客户案例)
Kategori
Dinamika Industri
Topik
OpenAI / ChatGPTDinamika IndustriKeamanan dan Penyelarasan
Skor AI
64
Baca aslinya Baca artikel lengkap di sumber aslinya
Alasan rekomendasi

OpenAI 官方披露了四家独立评估机构的评估范围、访问权限和发布规则,读者可以据此了解第三方嵌入式评估的实际运作方式。

Topik terkait

Entitas Terkait

Sumber dan hak cipta

Artikel ini disusun berdasarkan judul pilihan dan ringkasan AI dari API publik AIHOT, dengan sumber yang dicantumkan dan tautan balik; hak cipta konten asli milik media dan penulis aslinya, situs ini tidak menyalin artikel secara penuh.

Tautan asli · Entri AIHOT

Cara mengutip

Saat mengutip artikel ini, sertakan judul, tanggal, dan tautan permanen, serta cantumkan sumber Orange News.

Orange News: OpenAI menandatangani kontrak dengan Apollo Research, METR, Transluce, dan Goodfire untuk memulai tahap pertama evaluasi keamanan tertanam. 16 November 2026. https://new.nat6.net/id/news/qaj2npptre8jgn8xanq9ic965/

Lihat semua →