May nababasang behavioral signal pa rin sa hidden state ng frozen na malaking modelo ng wika; bagong teknolohiya, malaki ang pagpapabuti sa accuracy
Orihinal na pamagat:Frozen LLMs still carry readable behavior signals deep inside their hidden states. And Propriocepti...
AI summary
Ang Cygnus technology na binuo ng Proprioceptive AI ay nagdaragdag ng self-awareness adapter sa frozen na malaking modelo ng wika para mabasa nito ang internal cognitive geometry. Ini-project ng teknolohiya ang hidden state ng modelo sa mathematical space na tinukoy ng gl(4,R) Lie algebra, at hinihiwalay ang "dark mode" na naglalaman ng pangunahing precision signal, kaya malaki ang pagpapabuti sa performance ng modelo nang walang retraining. Halimbawa, gamit lamang ang isang RTX 3090 GPU, itinaas nito ang accuracy ng Qwen-32B sa ARC-Challenge benchmark mula 82.2% hanggang 94.97%. Sakop ng adapter nito ang maraming modelo mula 3B hanggang 405B, at kayang suportahan ng service node ang 50,000 concurrent user; inaasahang ilulunsad ito ngayong weekend. Pampubliko na ang kaugnay na design paper.
Mahahalagang impormasyon
- Ang Cygnus technology na binuo ng Proprioceptive AI ay nagdaragdag ng self-awareness adapter sa…
- Ini-project ng teknolohiya ang hidden state ng modelo sa mathematical space na tinukoy ng gl(4,R)…
- Halimbawa,gamit lamang ang isang RTX 3090 GPU,itinaas nito ang accuracy ng Qwen-32B sa…
- 2% hanggang 94.
- Sakop ng adapter nito ang maraming modelo mula 3B hanggang 405B,at kayang suportahan ng service…
Mabilisang tingin
- Na-publish noong
- Na-update noong
- Pinagmulan
- X:Rohan Paul (@rohanpaul_ai)
- Kategorya
- Mga Tutorial at Tip
- AI na marka
- 77
用Lie代数揪出模型内部的“黑暗模式”,在ARC上狂涨12个点还只要一张3090,如果真能泛化到其他任务,这或许是今年最巧妙的模型增强方案,但单基准提升仍需更多验证。
Kaugnay na Entity
Pinagmulan at copyright
Ang artikulong ito ay batay sa mga piling pamagat at AI summary mula sa pampublikong API ng AIHOT, may nakasaad na pinagmulan at backlink; ang copyright ng orihinal na teksto ay pag-aari ng orihinal na media at may-akda, hindi namin ginagaya ang buong teksto.
Paano banggitin
Kapag binabanggit ang artikulong ito, panatilihin ang pamagat, petsa at permanenteng link, at banggitin ang Orange News bilang pinagmulan.
Orange News: May nababasang behavioral signal pa rin sa hidden state ng frozen na malaking modelo ng wika; bagong teknolohiya, malaki ang pagpapabuti sa accuracy. 8 Mayo 2026. https://new.nat6.net/fil/news/cmovw0m8j00s3slcxklzwwqpj/