Mga Papel at Pananaliksik

Fine-tune ng OpenAI ang 774M parameter na GPT-2 gamit ang human preferences

Orihinal na pamagat:Fine-tuning GPT-2 from human preferences

AI summary

Fine-tune ng OpenAI ang 774M parameter na GPT-2 gamit ang human feedback, at nakamit ang preference ng external annotators sa maraming gawain. Gumamit ang summarization task ng 60,000 human annotations, habang ang mas simpleng gawain tulad ng style continuation ay nangangailangan lamang ng 5,000; mas gusto ng mga annotator na kopyahin nang buo ang orihinal na pangungusap sa summary, kaya natutunan ng modelo na kopyahin ito. Sinabi ng OpenAI na layunin nito na gawing mas malapit ang safety technology sa pangkalahatang gawain ng 'pag-uusap ng makina at tao'.

Mahahalagang impormasyon

  • Fine-tune ng OpenAI ang 774M parameter na GPT-2 gamit ang human feedback,at nakamit ang preference…
  • Gumamit ang summarization task ng 60,000 human annotations,habang ang mas simpleng gawain tulad ng…
  • mas gusto ng mga annotator na kopyahin nang buo ang orihinal na pangungusap sa summary,kaya…
  • Sinabi ng OpenAI na layunin nito na gawing mas malapit ang safety technology sa pangkalahatang…

Mabilisang tingin

Na-publish noong
Na-update noong
Pinagmulan
OpenAI:官网动态(RSS · 排除企业/客户案例)
Kategorya
Mga Papel at Pananaliksik
AI na marka
65
Basahin ang orihinal Basahin ang buong artikulo sa orihinal na pinagmulan
Dahilan ng rekomendasyon

原文给出人类偏好微调 GPT-2 的任务结果与标注成本,并暴露标注偏好与作者意图不一致的问题。

Kaugnay na Entity

Pinagmulan at copyright

Ang artikulong ito ay batay sa mga piling pamagat at AI summary mula sa pampublikong API ng AIHOT, may nakasaad na pinagmulan at backlink; ang copyright ng orihinal na teksto ay pag-aari ng orihinal na media at may-akda, hindi namin ginagaya ang buong teksto.

Link ng orihinal · Entry sa AIHOT

Paano banggitin

Kapag binabanggit ang artikulong ito, panatilihin ang pamagat, petsa at permanenteng link, at banggitin ang Orange News bilang pinagmulan.

Orange News: Fine-tune ng OpenAI ang 774M parameter na GPT-2 gamit ang human preferences. 19 Setyembre 2019. https://new.nat6.net/fil/news/mbl0jky4zuwkwo6nc6declud6/

Tingnan lahat →