思考即想起:推論がLLMのパラメトリック知識をどう解き放つか
原題:Thinking to recall: How reasoning unlocks parametric knowledge in LLMs
AI 要約
Google Researchの研究によると、推論(chain-of-thought)は複雑な導出を必要としない単純な事実であっても、大規模言語モデル(LLM)がそれを想起するのを助ける。Gemini-2.5 FlashとPro、Qwen3-32Bで、推論を有効にするとモデルは直接回答できなかった単純な質問に答えられるようになり、pass@kは正しい事実が出力分布に存在することを示した。この現象は2つのメカニズムに駆動される。1つは生成された推論トークンが計算バッファとして機能し、モデルがパラメトリック知識を抽出するための隠れた計算を行えるようにすること。もう1つは推論過程で生成される関連事実が事実プライミングとして働き、モデルが正解を活性化するのを助けることである。
要点
- Google Researchの研究によると、推論(chain-of-thought)は複雑な導出を必要としない単純な事実であっても、大規模言語モデル(LLM)がそれを想起するのを助ける。
- Gemini-2.
- 5 FlashとPro、Qwen3-32Bで、推論を有効にするとモデルは直接回答できなかった単純な質問に答えられるようになり、pass@kは正しい事実が出力分布に存在することを示した。
- この現象は2つのメカニズムに駆動される。
- 1つは生成された推論トークンが計算バッファとして機能し、モデルがパラメトリック知識を抽出するための隠れた計算を行えるようにすること。
概要
- 公開日時
- 更新日時
- カテゴリ
- 論文・研究
- AI スコア
- 69
发现一个反直觉现象,让模型推理能提升简单事实回忆,不是靠分步解题而是计算缓冲和事实预热,对理解模型知识召回机制很有启发,但中间步骤幻觉也带来风险。
関連エンティティ
出典と著作権
本記事は AIHOT の公開 API が提供する厳選タイトルと AI 要約に基づいており、出典の明記と元記事へのリンクを行っています。原文の著作権は元の媒体と著者に帰属し、当サイトは全文を転載しません。
引用方法
本記事を引用する際は、タイトル・日付・パーマリンクを保持し、出典をOrange Newsと明記してください。
Orange News:思考即想起:推論がLLMのパラメトリック知識をどう解き放つか。2026年6月24日。https://new.nat6.net/ja/news/cmqsbr8l701ndslfubzp0hnmi/