Fine-tune ng OpenAI ang 774M parameter na GPT-2 gamit ang human preferences
Orihinal na pamagat:Fine-tuning GPT-2 from human preferences
AI summary
Fine-tune ng OpenAI ang 774M parameter na GPT-2 gamit ang human feedback, at nakamit ang preference ng external annotators sa maraming gawain. Gumamit ang summarization task ng 60,000 human annotations, habang ang mas simpleng gawain tulad ng style continuation ay nangangailangan lamang ng 5,000; mas gusto ng mga annotator na kopyahin nang buo ang orihinal na pangungusap sa summary, kaya natutunan ng modelo na kopyahin ito. Sinabi ng OpenAI na layunin nito na gawing mas malapit ang safety technology sa pangkalahatang gawain ng 'pag-uusap ng makina at tao'.
Mahahalagang impormasyon
- Fine-tune ng OpenAI ang 774M parameter na GPT-2 gamit ang human feedback,at nakamit ang preference…
- Gumamit ang summarization task ng 60,000 human annotations,habang ang mas simpleng gawain tulad ng…
- mas gusto ng mga annotator na kopyahin nang buo ang orihinal na pangungusap sa summary,kaya…
- Sinabi ng OpenAI na layunin nito na gawing mas malapit ang safety technology sa pangkalahatang…
Mabilisang tingin
- Na-publish noong
- Na-update noong
- Pinagmulan
- OpenAI:官网动态(RSS · 排除企业/客户案例)
- Kategorya
- Mga Papel at Pananaliksik
- AI na marka
- 65
原文给出人类偏好微调 GPT-2 的任务结果与标注成本,并暴露标注偏好与作者意图不一致的问题。
Kaugnay na Entity
Pinagmulan at copyright
Ang artikulong ito ay batay sa mga piling pamagat at AI summary mula sa pampublikong API ng AIHOT, may nakasaad na pinagmulan at backlink; ang copyright ng orihinal na teksto ay pag-aari ng orihinal na media at may-akda, hindi namin ginagaya ang buong teksto.
Paano banggitin
Kapag binabanggit ang artikulong ito, panatilihin ang pamagat, petsa at permanenteng link, at banggitin ang Orange News bilang pinagmulan.
Orange News: Fine-tune ng OpenAI ang 774M parameter na GPT-2 gamit ang human preferences. 19 Setyembre 2019. https://new.nat6.net/fil/news/mbl0jky4zuwkwo6nc6declud6/