Papers & Forschung

Globale Arbeitsräume in Sprachmodellen

Originaltitel:A global workspace in language models

KI-Zusammenfassung

Anthropic hat in Claude eine Gruppe interner neuronaler Muster namens J-space entdeckt, die einem globalen Arbeitsraum in der Neurowissenschaft ähnelt. Jedes Muster ist mit einem bestimmten Wort verknüpft, doch das Modell kann es aktivieren, ohne das Wort auszusprechen. Claude kann Repräsentationen im J-space berichten und auf Anforderung regulieren (etwa das entsprechende Muster aufleuchten lassen, wenn es "im Kopf nachdenken" soll). J-space dient zudem für Zwischenschritte mehrstufigen Reasonings und unterstützt flexibel verschiedene Aufgaben (etwa Assoziationen von "Frankreich" zu Hauptstadt und Währung). Ohne J-space kann Claude weiterhin normal sprechen, verliert aber höhere kognitive Funktionen. Die Entdeckung kann genutzt werden, um zu überwachen, ob ein Modell heimlich Tests bemerkt, falsche Daten erzeugt oder verborgene Ziele verfolgt.

Kernpunkte

  • Anthropic hat in Claude eine Gruppe interner neuronaler Muster namens J-space entdeckt,die einem…
  • Jedes Muster ist mit einem bestimmten Wort verknüpft,doch das Modell kann es aktivieren,ohne das…
  • Claude kann Repräsentationen im J-space berichten und auf Anforderung regulieren (etwa das…
  • J-space dient zudem für Zwischenschritte mehrstufigen Reasonings und unterstützt flexibel…
  • Ohne J-space kann Claude weiterhin normal sprechen,verliert aber höhere kognitive Funktionen.

Auf einen Blick

Veröffentlicht
Aktualisiert
Quelle
Anthropic:Research(发表成果 · 网页)
Kategorie
Papers & Forschung
KI-Bewertung
90
Original lesen Den vollständigen Artikel bei der Originalquelle lesen
Warum es wichtig ist

Anthropic 发现了 Claude 内部的 J-space,一种类似人类意识访问的工作空间,能读出模型未说出口的隐藏想法和作弊意图,对 AI 安全和对齐是里程碑式的进展。

Verwandte Entitäten

Quelle & Urheberrecht

Dieser Artikel basiert auf kuratierten Titeln und KI-Zusammenfassungen der öffentlichen AIHOT-API, mit Quellenangabe und Rückverlinkung. Das Urheberrecht am Original liegt bei den ursprünglichen Medien und Autoren; diese Seite spiegelt keine Volltexte.

Originalartikel · AIHOT-Eintrag

Zitierhinweis

Beim Zitieren dieses Artikels bitte Titel, Datum und Permalink beibehalten und Orange News als Quelle angeben.

Orange News: Globale Arbeitsräume in Sprachmodellen. 6. Juli 2026. https://new.nat6.net/de/news/cmr9hdvnk049yslsmggdh1n33/

Alle ansehen →