Статьи и исследования

Глобальное рабочее пространство в языковых моделях

Оригинальный заголовок:A global workspace in language models

ИИ-резюме

Anthropic обнаружила в Claude набор внутренних нейронных паттернов J-space, аналогичный глобальному рабочему пространству в нейронауке. Каждый паттерн связан с определённым словом, но модель может активировать его, не произнося это слово. Claude способен сообщать о репрезентациях в J-space и по запросу регулировать их (например, при «размышлении в уме» загорается соответствующий паттерн). J-space также используется для промежуточных шагов многошаговых рассуждений и гибко поддерживает разные задачи (например, ассоциации от «Франции» к столице, валюте и т. д.). Без J-space Claude по-прежнему нормально ведёт диалог, но теряет высшие когнитивные функции. Открытие можно использовать для мониторинга того, как модель втайне замечает тесты, генерирует ложные данные или преследует скрытые цели.

Ключевые моменты

  • Anthropic обнаружила в Claude набор внутренних нейронных паттернов J-space,аналогичный глобальному…
  • Каждый паттерн связан с определённым словом,но модель может активировать его,не произнося это слово.
  • Claude способен сообщать о репрезентациях в J-space и по запросу регулировать их (например,при…
  • J-space также используется для промежуточных шагов многошаговых рассуждений и гибко поддерживает…
  • Без J-space Claude по-прежнему нормально ведёт диалог,но теряет высшие когнитивные функции.

Кратко

Опубликовано
Обновлено
Источник
Anthropic:Research(发表成果 · 网页)
Категория
Статьи и исследования
Оценка ИИ
90
Читать оригинал Читать полную статью в первоисточнике
Почему это важно

Anthropic 发现了 Claude 内部的 J-space,一种类似人类意识访问的工作空间,能读出模型未说出口的隐藏想法和作弊意图,对 AI 安全和对齐是里程碑式的进展。

Связанные сущности

Источник и авторские права

Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.

Оригинал статьи · Материал на AIHOT

Как цитировать

При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.

Orange News: Глобальное рабочее пространство в языковых моделях. 6 июля 2026. https://new.nat6.net/ru/news/cmr9hdvnk049yslsmggdh1n33/

Смотреть все →