Глобальное рабочее пространство в языковых моделях
Оригинальный заголовок:A global workspace in language models
ИИ-резюме
Anthropic обнаружила в Claude набор внутренних нейронных паттернов J-space, аналогичный глобальному рабочему пространству в нейронауке. Каждый паттерн связан с определённым словом, но модель может активировать его, не произнося это слово. Claude способен сообщать о репрезентациях в J-space и по запросу регулировать их (например, при «размышлении в уме» загорается соответствующий паттерн). J-space также используется для промежуточных шагов многошаговых рассуждений и гибко поддерживает разные задачи (например, ассоциации от «Франции» к столице, валюте и т. д.). Без J-space Claude по-прежнему нормально ведёт диалог, но теряет высшие когнитивные функции. Открытие можно использовать для мониторинга того, как модель втайне замечает тесты, генерирует ложные данные или преследует скрытые цели.
Ключевые моменты
- Anthropic обнаружила в Claude набор внутренних нейронных паттернов J-space,аналогичный глобальному…
- Каждый паттерн связан с определённым словом,но модель может активировать его,не произнося это слово.
- Claude способен сообщать о репрезентациях в J-space и по запросу регулировать их (например,при…
- J-space также используется для промежуточных шагов многошаговых рассуждений и гибко поддерживает…
- Без J-space Claude по-прежнему нормально ведёт диалог,но теряет высшие когнитивные функции.
Кратко
- Опубликовано
- Обновлено
- Источник
- Anthropic:Research(发表成果 · 网页)
- Категория
- Статьи и исследования
- Оценка ИИ
- 90
Anthropic 发现了 Claude 内部的 J-space,一种类似人类意识访问的工作空间,能读出模型未说出口的隐藏想法和作弊意图,对 AI 安全和对齐是里程碑式的进展。
Связанные сущности
Источник и авторские права
Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.
Как цитировать
При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.
Orange News: Глобальное рабочее пространство в языковых моделях. 6 июля 2026. https://new.nat6.net/ru/news/cmr9hdvnk049yslsmggdh1n33/