OpenAI fine-tunt GPT-2 mit 774M Parametern anhand menschlicher Präferenzen
Originaltitel:Fine-tuning GPT-2 from human preferences
KI-Zusammenfassung
OpenAI hat GPT-2 mit 774M Parametern per menschlichem Feedback fine-getunt und damit bei mehreren Aufgaben die Präferenzen externer Annotatoren erreicht. Für die Zusammenfassungsaufgabe wurden 60.000 menschliche Annotationen verwendet, für einfachere Aufgaben wie Stilfortsetzung nur 5.000. Die Annotatoren bevorzugten Zusammenfassungen, die ganze Sätze aus dem Original kopierten, wodurch das Modell das Kopieren lernte. OpenAI zufolge soll dies Sicherheitstechniken näher an die allgemeine Aufgabe „Maschine spricht mit Menschen“ bringen.
Kernpunkte
- OpenAI hat GPT-2 mit 774M Parametern per menschlichem Feedback fine-getunt und damit bei mehreren…
- Für die Zusammenfassungsaufgabe wurden 60.
- 000 menschliche Annotationen verwendet,für einfachere Aufgaben wie Stilfortsetzung nur 5.
- Die Annotatoren bevorzugten Zusammenfassungen,die ganze Sätze aus dem Original kopierten,wodurch…
- OpenAI zufolge soll dies Sicherheitstechniken näher an die allgemeine Aufgabe „Maschine spricht…
Auf einen Blick
- Veröffentlicht
- Aktualisiert
- Quelle
- OpenAI:官网动态(RSS · 排除企业/客户案例)
- Kategorie
- Papers & Forschung
- KI-Bewertung
- 65
原文给出人类偏好微调 GPT-2 的任务结果与标注成本,并暴露标注偏好与作者意图不一致的问题。
Verwandte Entitäten
Quelle & Urheberrecht
Dieser Artikel basiert auf kuratierten Titeln und KI-Zusammenfassungen der öffentlichen AIHOT-API, mit Quellenangabe und Rückverlinkung. Das Urheberrecht am Original liegt bei den ursprünglichen Medien und Autoren; diese Seite spiegelt keine Volltexte.
Zitierhinweis
Beim Zitieren dieses Artikels bitte Titel, Datum und Permalink beibehalten und Orange News als Quelle angeben.
Orange News: OpenAI fine-tunt GPT-2 mit 774M Parametern anhand menschlicher Präferenzen. 19. September 2019. https://new.nat6.net/de/news/mbl0jky4zuwkwo6nc6declud6/