論文・研究

言語モデルにおけるグローバルワークスペース

原題:A global workspace in language models

AI 要約

AnthropicはClaudeの中にJ-spaceと呼ばれる内部神経パターンの一群を発見した。神経科学のグローバルワークスペースに似ている。各パターンは特定の語彙と関連するが、モデルはその語を口にしなくても活性化できる。ClaudeはJ-space内の表象を報告でき、要求に応じて調整できる(「頭の中で考える」と対応するパターンが点灯するなど)。J-spaceは多段推論の中間ステップにも使われ、多様なタスクを柔軟にサポートする(「フランス」から首都や通貨などを連想するなど)。J-spaceを除去してもClaudeは正常に対話できるが、高次認知機能を失う。この発見は、モデルが密かにテストを察知したり、虚偽データを生成したり、隠れた目標を実行したりするのを監視するのに利用できる。

要点

  • AnthropicはClaudeの中にJ-spaceと呼ばれる内部神経パターンの一群を発見した。
  • 神経科学のグローバルワークスペースに似ている。
  • 各パターンは特定の語彙と関連するが、モデルはその語を口にしなくても活性化できる。
  • ClaudeはJ-space内の表象を報告でき、要求に応じて調整できる(「頭の中で考える」と対応するパターンが点灯するなど)。
  • J-spaceは多段推論の中間ステップにも使われ、多様なタスクを柔軟にサポートする(「フランス」から首都や通貨などを連想するなど)。

概要

公開日時
更新日時
出典
Anthropic:Research(发表成果 · 网页)
カテゴリ
論文・研究
AI スコア
90
原文を読む 情報源で全文を読む
おすすめの理由

Anthropic 发现了 Claude 内部的 J-space,一种类似人类意识访问的工作空间,能读出模型未说出口的隐藏想法和作弊意图,对 AI 安全和对齐是里程碑式的进展。

関連エンティティ

出典と著作権

本記事は AIHOT の公開 API が提供する厳選タイトルと AI 要約に基づいており、出典の明記と元記事へのリンクを行っています。原文の著作権は元の媒体と著者に帰属し、当サイトは全文を転載しません。

原文記事 · AIHOT 記事

引用方法

本記事を引用する際は、タイトル・日付・パーマリンクを保持し、出典をOrange Newsと明記してください。

Orange News:言語モデルにおけるグローバルワークスペース。2026年7月6日。https://new.nat6.net/ja/news/cmr9hdvnk049yslsmggdh1n33/

すべて見る →