рдЕрдиреНрдп

ЁЯжГ рдереИрдВрдХреНрд╕рдЧрд┐рд╡рд┐рдВрдЧ рдЫреБрдЯреНрдЯрд┐рдпреЛрдВ рдХреЗ рдЕрдВрдд рдореЗрдВ, рдореИрдВрдиреЗ рдЖрдЦрд┐рд░рдХрд╛рд░ reward hacking рдкрд░ рд▓реЗрдЦ рдкреВрд░рд╛ рдХрд┐рдпрд╛ред рдЖрд╕рд╛рди рдирд╣реАрдВ ...

рдореВрд▓ рд╢реАрд░реНрд╖рдХя╝ЪЁЯжГ At the end of Thanksgiving holidays, I finally finished the piece on reward hacking. Not an easy ...

AI рд╕рд╛рд░рд╛рдВрд╢

ЁЯжГ рдереИрдВрдХреНрд╕рдЧрд┐рд╡рд┐рдВрдЧ рдЫреБрдЯреНрдЯрд┐рдпреЛрдВ рдХреЗ рдЕрдВрдд рдореЗрдВ, рдореИрдВрдиреЗ рдЖрдЦрд┐рд░рдХрд╛рд░ reward hacking рдкрд░ рд▓реЗрдЦ рдкреВрд░рд╛ рдХрд░ рд▓рд┐рдпрд╛ред рд▓рд┐рдЦрдирд╛ рдЖрд╕рд╛рди рдирд╣реАрдВ рдерд╛, рдЙрдлред

рдПрдХ рдирдЬрд╝рд░ рдореЗрдВ

рдкреНрд░рдХрд╛рд╢рди рд╕рдордп
рдЕрдкрдбреЗрдЯ рд╕рдордп
рд╕реНрд░реЛрдд
Xя╝ЪLilian Weng (@lilianweng)
рд╢реНрд░реЗрдгреА
рдЕрдиреНрдп
рдореВрд▓ рдкрдврд╝реЗрдВ рдореВрд▓ рд╕реНрд░реЛрдд рдкрд░ рдкреВрд░рд╛ рд▓реЗрдЦ рдкрдврд╝реЗрдВ
рд╕реБрдЭрд╛рд╡ рдХрд╛ рдХрд╛рд░рдг

OpenAIчаФчй╢хСШц╖▒х║жшзгцЮРхеЦхК▒ф╜Ьх╝КцЬ║хИ╢я╝МцПнчд║LLMшЗкф╕╗хМЦщГич╜▓чЪДхЕ│щФохоЙхЕищЪЬчвН

рд╕реНрд░реЛрдд рдФрд░ рдХреЙрдкреАрд░рд╛рдЗрдЯ

рдпрд╣ рд▓реЗрдЦ AIHOT рдХреЗ рд╕рд╛рд░реНрд╡рдЬрдирд┐рдХ API рдХреА рдЪрдпрдирд┐рдд рд╕реБрд░реНрдЦрд┐рдпреЛрдВ рдФрд░ AI рд╕рд╛рд░рд╛рдВрд╢реЛрдВ рдХреЗ рдЖрдзрд╛рд░ рдкрд░ рддреИрдпрд╛рд░ рдХрд┐рдпрд╛ рдЧрдпрд╛ рд╣реИ, рд╕реНрд░реЛрдд рдХрд╛ рдЙрд▓реНрд▓реЗрдЦ рдФрд░ рд▓рд┐рдВрдХ рджрд┐рдпрд╛ рдЧрдпрд╛ рд╣реИ; рдореВрд▓ рдкрд╛рда рдХрд╛ рдХреЙрдкреАрд░рд╛рдЗрдЯ рдореВрд▓ рдореАрдбрд┐рдпрд╛ рдФрд░ рд▓реЗрдЦрдХ рдХреЗ рдкрд╛рд╕ рд╣реИ, рдпрд╣ рд╕рд╛рдЗрдЯ рдкреВрд░рд╛ рдкрд╛рда рдорд┐рд░рд░ рдирд╣реАрдВ рдХрд░рддреАред

рдореВрд▓ рд▓рд┐рдВрдХ ┬╖ AIHOT рдкреНрд░рд╡рд┐рд╖реНрдЯрд┐

рдЙрджреНрдзрд░рдг рдХреИрд╕реЗ рджреЗрдВ

рдЗрд╕ рд▓реЗрдЦ рдХрд╛ рдЙрджреНрдзрд░рдг рджреЗрддреЗ рд╕рдордп рд╢реАрд░реНрд╖рдХ, рддрд┐рдерд┐ рдФрд░ рд╕реНрдерд╛рдпреА рд▓рд┐рдВрдХ рдмрдирд╛рдП рд░рдЦреЗрдВ рдФрд░ рд╕реНрд░реЛрдд Orange News рдмрддрд╛рдПрдВред

Orange News: ЁЯжГ рдереИрдВрдХреНрд╕рдЧрд┐рд╡рд┐рдВрдЧ рдЫреБрдЯреНрдЯрд┐рдпреЛрдВ рдХреЗ рдЕрдВрдд рдореЗрдВ, рдореИрдВрдиреЗ рдЖрдЦрд┐рд░рдХрд╛рд░ reward hacking рдкрд░ рд▓реЗрдЦ рдкреВрд░рд╛ рдХрд┐рдпрд╛ред рдЖрд╕рд╛рди рдирд╣реАрдВ ...ред 2 рджрд┐рд╕рдВрдмрд░ 2024ред https://new.nat6.net/hi/news/cmnxjn7to00eqsl9o7615355q/

рд╕реНрдерд╛рдпреА рд▓рд┐рдВрдХ
https://new.nat6.net/hi/news/cmnxjn7to00eqsl9o7615355q/
Markdown рд╕рдВрд╕реНрдХрд░рдг
https://new.nat6.net/news/cmnxjn7to00eqsl9o7615355q/index.md
JSON рд╕рдВрд╕реНрдХрд░рдг
https://new.nat6.net/api/v1/articles/cmnxjn7to00eqsl9o7615355q.json
рд╕рднреА рджреЗрдЦреЗрдВ тЖТ