Dalawang talim ng reinforcement learning: pinapabuti ang performance sa kilalang larangan, madaling magdulot ng hallucination sa hindi kilalang larangan
Orihinal na pamagat:RL is a bit of a double edged sword: in known territory performance increases, but in unknown territ...
AI summary
Kayang pagbutihin ng reinforcement learning ang performance ng modelo sa kilalang larangan, ngunit sa hindi kilalang larangan ay maaaring magdulot ito ng hallucination, na akala ng modelo ay isa pang sinanay na gawain ang isinasagawa nito. Makikita ang phenomenon na ito sa ARC AGI 3 benchmark ng malalaking modelo tulad ng GPT-5.5, na may score na 0.43% lamang, katulad ng performance ng Claude 4.6, Gemini 3.1, at iba pa. Ayon sa pagsusuri, kabilang sa pangunahing dahilan ng pagkabigo ng GPT-5.5 ang: tama ang local effect ngunit mali ang world model, hindi angkop ang abstraction level na nakuha mula sa training data, at nalutas ang problema ngunit hindi pinalakas ang reward mechanism. Makakatulong ang malalim na pagsusuri ng mga ganitong failure case upang lubusang maunawaan ang limitasyon ng kakayahan ng malalaking modelo sa partikular na modality at ang direksyon ng pagpapabuti.
Mahahalagang impormasyon
- Kayang pagbutihin ng reinforcement learning ang performance ng modelo sa kilalang larangan,ngunit…
- Makikita ang phenomenon na ito sa ARC AGI 3 benchmark ng malalaking modelo tulad ng GPT-5.
- 5,na may score na 0.
- 43% lamang,katulad ng performance ng Claude 4.
- 6,Gemini 3.
Mabilisang tingin
- Na-publish noong
- Na-update noong
- Pinagmulan
- X:Francois Chollet (@fchollet)
- Kategorya
- Mga Opinyon at Komentaryo
- AI na marka
- 70
Chollet 用 ARC AGI 3 冷冰冰的数字撕开了 RL 的局限,GPT-5.5 0.43% 的得分说明在未知领域模型会做完全不相干的事,比任何安全论文都来得更直击要害。
Kaugnay na Entity
Pinagmulan at copyright
Ang artikulong ito ay batay sa mga piling pamagat at AI summary mula sa pampublikong API ng AIHOT, may nakasaad na pinagmulan at backlink; ang copyright ng orihinal na teksto ay pag-aari ng orihinal na media at may-akda, hindi namin ginagaya ang buong teksto.
Paano banggitin
Kapag binabanggit ang artikulong ito, panatilihin ang pamagat, petsa at permanenteng link, at banggitin ang Orange News bilang pinagmulan.
Orange News: Dalawang talim ng reinforcement learning: pinapabuti ang performance sa kilalang larangan, madaling magdulot ng hallucination sa hindi kilalang larangan. 2 Mayo 2026. https://new.nat6.net/fil/news/cmonbqmsf0esusll93al0d5xs/