Mga Tutorial at Tip

May nababasang behavioral signal pa rin sa hidden state ng frozen na malaking modelo ng wika; bagong teknolohiya, malaki ang pagpapabuti sa accuracy

Orihinal na pamagat:Frozen LLMs still carry readable behavior signals deep inside their hidden states. And Propriocepti...

AI summary

Ang Cygnus technology na binuo ng Proprioceptive AI ay nagdaragdag ng self-awareness adapter sa frozen na malaking modelo ng wika para mabasa nito ang internal cognitive geometry. Ini-project ng teknolohiya ang hidden state ng modelo sa mathematical space na tinukoy ng gl(4,R) Lie algebra, at hinihiwalay ang "dark mode" na naglalaman ng pangunahing precision signal, kaya malaki ang pagpapabuti sa performance ng modelo nang walang retraining. Halimbawa, gamit lamang ang isang RTX 3090 GPU, itinaas nito ang accuracy ng Qwen-32B sa ARC-Challenge benchmark mula 82.2% hanggang 94.97%. Sakop ng adapter nito ang maraming modelo mula 3B hanggang 405B, at kayang suportahan ng service node ang 50,000 concurrent user; inaasahang ilulunsad ito ngayong weekend. Pampubliko na ang kaugnay na design paper.

Mahahalagang impormasyon

  • Ang Cygnus technology na binuo ng Proprioceptive AI ay nagdaragdag ng self-awareness adapter sa…
  • Ini-project ng teknolohiya ang hidden state ng modelo sa mathematical space na tinukoy ng gl(4,R)…
  • Halimbawa,gamit lamang ang isang RTX 3090 GPU,itinaas nito ang accuracy ng Qwen-32B sa…
  • 2% hanggang 94.
  • Sakop ng adapter nito ang maraming modelo mula 3B hanggang 405B,at kayang suportahan ng service…

Mabilisang tingin

Na-publish noong
Na-update noong
Pinagmulan
X:Rohan Paul (@rohanpaul_ai)
Kategorya
Mga Tutorial at Tip
AI na marka
77
Basahin ang orihinal Basahin ang buong artikulo sa orihinal na pinagmulan
Dahilan ng rekomendasyon

用Lie代数揪出模型内部的“黑暗模式”,在ARC上狂涨12个点还只要一张3090,如果真能泛化到其他任务,这或许是今年最巧妙的模型增强方案,但单基准提升仍需更多验证。

Kaugnay na Entity

Pinagmulan at copyright

Ang artikulong ito ay batay sa mga piling pamagat at AI summary mula sa pampublikong API ng AIHOT, may nakasaad na pinagmulan at backlink; ang copyright ng orihinal na teksto ay pag-aari ng orihinal na media at may-akda, hindi namin ginagaya ang buong teksto.

Link ng orihinal · Entry sa AIHOT

Paano banggitin

Kapag binabanggit ang artikulong ito, panatilihin ang pamagat, petsa at permanenteng link, at banggitin ang Orange News bilang pinagmulan.

Orange News: May nababasang behavioral signal pa rin sa hidden state ng frozen na malaking modelo ng wika; bagong teknolohiya, malaki ang pagpapabuti sa accuracy. 8 Mayo 2026. https://new.nat6.net/fil/news/cmovw0m8j00s3slcxklzwwqpj/

Tingnan lahat →