Papers & Forschung

Denken als Erinnern: Wie Reasoning parametrisches Wissen in LLMs freisetzt

Originaltitel:Thinking to recall: How reasoning unlocks parametric knowledge in LLMs

KI-Zusammenfassung

Google Research hat herausgefunden, dass Reasoning (Chain-of-Thought) großen Sprachmodellen (LLMs) helfen kann, einfache Fakten abzurufen, selbst wenn diese keine komplexe Herleitung erfordern. Bei Gemini-2.5 Flash und Pro sowie Qwen3-32B konnten die Modelle nach Aktivierung des Reasonings einfache Fragen beantworten, die sie zuvor nicht direkt beantworten konnten; pass@k zeigt, dass die richtigen Fakten in der Ausgabeverteilung vorhanden sind. Dieses Phänomen wird von zwei Mechanismen getrieben: Erstens wirken die generierten Reasoning-Token als Rechenpuffer, der dem Modell verborgene Berechnungen zur Extraktion parametrischen Wissens ermöglicht; zweitens wirken im Reasoning-Prozess erzeugte verwandte Fakten als faktisches Priming und helfen dem Modell, die richtige Antwort zu aktivieren.

Kernpunkte

  • Google Research hat herausgefunden,dass Reasoning (Chain-of-Thought) großen Sprachmodellen (LLMs)…
  • Bei Gemini-2.
  • 5 Flash und Pro sowie Qwen3-32B konnten die Modelle nach Aktivierung des Reasonings einfache…
  • pass@k zeigt,dass die richtigen Fakten in der Ausgabeverteilung vorhanden sind.
  • Dieses Phänomen wird von zwei Mechanismen getrieben: Erstens wirken die generierten…

Auf einen Blick

Veröffentlicht
Aktualisiert
Quelle
Google Research:Blog(网页)
Kategorie
Papers & Forschung
KI-Bewertung
69
Original lesen Den vollständigen Artikel bei der Originalquelle lesen
Warum es wichtig ist

发现一个反直觉现象,让模型推理能提升简单事实回忆,不是靠分步解题而是计算缓冲和事实预热,对理解模型知识召回机制很有启发,但中间步骤幻觉也带来风险。

Verwandte Entitäten

Quelle & Urheberrecht

Dieser Artikel basiert auf kuratierten Titeln und KI-Zusammenfassungen der öffentlichen AIHOT-API, mit Quellenangabe und Rückverlinkung. Das Urheberrecht am Original liegt bei den ursprünglichen Medien und Autoren; diese Seite spiegelt keine Volltexte.

Originalartikel · AIHOT-Eintrag

Zitierhinweis

Beim Zitieren dieses Artikels bitte Titel, Datum und Permalink beibehalten und Orange News als Quelle angeben.

Orange News: Denken als Erinnern: Wie Reasoning parametrisches Wissen in LLMs freisetzt. 24. Juni 2026. https://new.nat6.net/de/news/cmqsbr8l701ndslfubzp0hnmi/

Alle ansehen →