Kertas penyelidikan

Berfikir Ialah Mengingat: Bagaimana Penaakulan Membuka Pengetahuan Parametrik dalam LLM

Tajuk asal:Thinking to recall: How reasoning unlocks parametric knowledge in LLMs

Ringkasan AI

Penyelidikan Google Research mendapati bahawa penaakulan (chain-of-thought) membantu model bahasa besar (LLM) mengingati fakta mudah, walaupun fakta tersebut tidak memerlukan penaakulan kompleks. Pada Gemini-2.5 Flash dan Pro serta Qwen3-32B, selepas penaakulan diaktifkan, model dapat menjawab soalan mudah yang asalnya tidak dapat dijawab secara langsung, dan pass@k menunjukkan fakta betul wujud dalam taburan output. Fenomena ini didorong oleh dua mekanisme: pertama, token penaakulan yang dijana bertindak sebagai penampan pengiraan, membolehkan model melakukan pengiraan tersembunyi untuk mengekstrak pengetahuan parametrik; kedua, fakta berkaitan yang dihasilkan semasa penaakulan bertindak sebagai penyediaan faktual (factual priming), membantu model mengaktifkan jawapan yang betul.

Maklumat penting

  • Penyelidikan Google Research mendapati bahawa penaakulan (chain-of-thought) membantu model bahasa…
  • Pada Gemini-2.
  • 5 Flash dan Pro serta Qwen3-32B,selepas penaakulan diaktifkan,model dapat menjawab soalan mudah…
  • Fenomena ini didorong oleh dua mekanisme: pertama,token penaakulan yang dijana bertindak sebagai…
  • kedua,fakta berkaitan yang dihasilkan semasa penaakulan bertindak sebagai penyediaan faktual…

Sekilas pandang

Diterbitkan pada
Dikemas kini pada
Sumber
Google Research:Blog(网页)
Kategori
Kertas penyelidikan
Skor AI
69
Baca asal Baca artikel penuh di sumber asal
Sebab disyorkan

发现一个反直觉现象,让模型推理能提升简单事实回忆,不是靠分步解题而是计算缓冲和事实预热,对理解模型知识召回机制很有启发,但中间步骤幻觉也带来风险。

Entiti Berkaitan

Sumber dan hak cipta

Artikel ini disusun berdasarkan tajuk pilihan dan ringkasan AI daripada API awam AIHOT, dengan sumber dinyatakan dan pautan balik disediakan; hak cipta teks asal milik media dan penulis asal, laman ini tidak menyalin penuh teks penuh.

Pautan asal · Entri AIHOT

Cara memetik

Apabila memetik artikel ini, kekalkan tajuk, tarikh dan pautan kekal, serta nyatakan sumber sebagai Orange News.

Orange News: Berfikir Ialah Mengingat: Bagaimana Penaakulan Membuka Pengetahuan Parametrik dalam LLM. 24 Jun 2026. https://new.nat6.net/ms/news/cmqsbr8l701ndslfubzp0hnmi/

Lihat Semua →