Kertas penyelidikan

OpenAI halus-tala GPT-2 774M parameter dengan keutamaan manusia

Tajuk asal:Fine-tuning GPT-2 from human preferences

Ringkasan AI

OpenAI menghalus-tala GPT-2 774M parameter menggunakan maklum balas manusia, dan mencapai keutamaan penyemak luar dalam beberapa tugasan. Tugasan ringkasan menggunakan 60,000 anotasi manusia, manakala tugasan lebih mudah seperti sambungan gaya hanya memerlukan 5,000; penyemak lebih suka ringkasan yang menyalin ayat asal sepenuhnya, menyebabkan model belajar menyalin. OpenAI menyatakan langkah ini bertujuan mendekatkan teknologi keselamatan kepada tugasan umum 'mesin berbual dengan manusia'.

Maklumat penting

  • OpenAI menghalus-tala GPT-2 774M parameter menggunakan maklum balas manusia,dan mencapai keutamaan…
  • Tugasan ringkasan menggunakan 60,000 anotasi manusia,manakala tugasan lebih mudah seperti…
  • penyemak lebih suka ringkasan yang menyalin ayat asal sepenuhnya,menyebabkan model belajar menyalin.
  • OpenAI menyatakan langkah ini bertujuan mendekatkan teknologi keselamatan kepada tugasan umum…

Sekilas pandang

Diterbitkan pada
Dikemas kini pada
Sumber
OpenAI:官网动态(RSS · 排除企业/客户案例)
Kategori
Kertas penyelidikan
Skor AI
65
Baca asal Baca artikel penuh di sumber asal
Sebab disyorkan

原文给出人类偏好微调 GPT-2 的任务结果与标注成本,并暴露标注偏好与作者意图不一致的问题。

Entiti Berkaitan

Sumber dan hak cipta

Artikel ini disusun berdasarkan tajuk pilihan dan ringkasan AI daripada API awam AIHOT, dengan sumber dinyatakan dan pautan balik disediakan; hak cipta teks asal milik media dan penulis asal, laman ini tidak menyalin penuh teks penuh.

Pautan asal · Entri AIHOT

Cara memetik

Apabila memetik artikel ini, kekalkan tajuk, tarikh dan pautan kekal, serta nyatakan sumber sebagai Orange News.

Orange News: OpenAI halus-tala GPT-2 774M parameter dengan keutamaan manusia. 19 September 2019. https://new.nat6.net/ms/news/mbl0jky4zuwkwo6nc6declud6/

Lihat Semua →