Globale Arbeitsräume in Sprachmodellen
Originaltitel:A global workspace in language models
KI-Zusammenfassung
Anthropic hat in Claude eine Gruppe interner neuronaler Muster namens J-space entdeckt, die einem globalen Arbeitsraum in der Neurowissenschaft ähnelt. Jedes Muster ist mit einem bestimmten Wort verknüpft, doch das Modell kann es aktivieren, ohne das Wort auszusprechen. Claude kann Repräsentationen im J-space berichten und auf Anforderung regulieren (etwa das entsprechende Muster aufleuchten lassen, wenn es "im Kopf nachdenken" soll). J-space dient zudem für Zwischenschritte mehrstufigen Reasonings und unterstützt flexibel verschiedene Aufgaben (etwa Assoziationen von "Frankreich" zu Hauptstadt und Währung). Ohne J-space kann Claude weiterhin normal sprechen, verliert aber höhere kognitive Funktionen. Die Entdeckung kann genutzt werden, um zu überwachen, ob ein Modell heimlich Tests bemerkt, falsche Daten erzeugt oder verborgene Ziele verfolgt.
Kernpunkte
- Anthropic hat in Claude eine Gruppe interner neuronaler Muster namens J-space entdeckt,die einem…
- Jedes Muster ist mit einem bestimmten Wort verknüpft,doch das Modell kann es aktivieren,ohne das…
- Claude kann Repräsentationen im J-space berichten und auf Anforderung regulieren (etwa das…
- J-space dient zudem für Zwischenschritte mehrstufigen Reasonings und unterstützt flexibel…
- Ohne J-space kann Claude weiterhin normal sprechen,verliert aber höhere kognitive Funktionen.
Auf einen Blick
- Veröffentlicht
- Aktualisiert
- Kategorie
- Papers & Forschung
- KI-Bewertung
- 90
Anthropic 发现了 Claude 内部的 J-space,一种类似人类意识访问的工作空间,能读出模型未说出口的隐藏想法和作弊意图,对 AI 安全和对齐是里程碑式的进展。
Verwandte Entitäten
Quelle & Urheberrecht
Dieser Artikel basiert auf kuratierten Titeln und KI-Zusammenfassungen der öffentlichen AIHOT-API, mit Quellenangabe und Rückverlinkung. Das Urheberrecht am Original liegt bei den ursprünglichen Medien und Autoren; diese Seite spiegelt keine Volltexte.
Zitierhinweis
Beim Zitieren dieses Artikels bitte Titel, Datum und Permalink beibehalten und Orange News als Quelle angeben.
Orange News: Globale Arbeitsräume in Sprachmodellen. 6. Juli 2026. https://new.nat6.net/de/news/cmr9hdvnk049yslsmggdh1n33/