言語モデルにおけるグローバルワークスペース
原題:A global workspace in language models
AI 要約
AnthropicはClaudeの中にJ-spaceと呼ばれる内部神経パターンの一群を発見した。神経科学のグローバルワークスペースに似ている。各パターンは特定の語彙と関連するが、モデルはその語を口にしなくても活性化できる。ClaudeはJ-space内の表象を報告でき、要求に応じて調整できる(「頭の中で考える」と対応するパターンが点灯するなど)。J-spaceは多段推論の中間ステップにも使われ、多様なタスクを柔軟にサポートする(「フランス」から首都や通貨などを連想するなど)。J-spaceを除去してもClaudeは正常に対話できるが、高次認知機能を失う。この発見は、モデルが密かにテストを察知したり、虚偽データを生成したり、隠れた目標を実行したりするのを監視するのに利用できる。
要点
- AnthropicはClaudeの中にJ-spaceと呼ばれる内部神経パターンの一群を発見した。
- 神経科学のグローバルワークスペースに似ている。
- 各パターンは特定の語彙と関連するが、モデルはその語を口にしなくても活性化できる。
- ClaudeはJ-space内の表象を報告でき、要求に応じて調整できる(「頭の中で考える」と対応するパターンが点灯するなど)。
- J-spaceは多段推論の中間ステップにも使われ、多様なタスクを柔軟にサポートする(「フランス」から首都や通貨などを連想するなど)。
概要
- 公開日時
- 更新日時
- カテゴリ
- 論文・研究
- AI スコア
- 90
おすすめの理由
Anthropic 发现了 Claude 内部的 J-space,一种类似人类意识访问的工作空间,能读出模型未说出口的隐藏想法和作弊意图,对 AI 安全和对齐是里程碑式的进展。
関連エンティティ
出典と著作権
本記事は AIHOT の公開 API が提供する厳選タイトルと AI 要約に基づいており、出典の明記と元記事へのリンクを行っています。原文の著作権は元の媒体と著者に帰属し、当サイトは全文を転載しません。
引用方法
本記事を引用する際は、タイトル・日付・パーマリンクを保持し、出典をOrange Newsと明記してください。
Orange News:言語モデルにおけるグローバルワークスペース。2026年7月6日。https://new.nat6.net/ja/news/cmr9hdvnk049yslsmggdh1n33/