Как роль меняет ответы ИИ: разбор схемы Anthropic о интерпретируемости за август 2025
Оригинальный заголовок:Circuits Updates — August 2025
ИИ-резюме
В обновлении исследований за август 2025 команда интерпретируемости Anthropic на примере анализа схемы показала, как «ролевая игра» модели влияет на её ответы. В Claude Haiku 3.5 системная подсказка задаёт роль «дошкольника», и на вопрос о квадратном корне из 27 модель отвечает «Я не знаю!» и предлагает поиграть; в роли по умолчанию или «аспиранта» она даёт правильный ответ. С помощью графов атрибуции команда выявила ключевую подсхему: модель связывает «дошкольника» с «игрой в ребёнка» и активирует признак «я не знаю». Также обнаружено, что сложность вопроса модулирует эффект, а вмешательство в признаки заметно меняет поведение. Это ставит вопросы о механизмах других ролей и связи предобученных ролей со способностью модели к выражению.
Ключевые моменты
- В обновлении исследований за август 2025 команда интерпретируемости Anthropic на примере анализа…
- В Claude Haiku 3.
- 5 системная подсказка задаёт роль «дошкольника»,и на вопрос о квадратном корне из 27 модель…
- » и предлагает поиграть
- в роли по умолчанию или «аспиранта» она даёт правильный ответ.
Кратко
- Опубликовано
- Обновлено
- Категория
- Другое
- Оценка ИИ
- 73
揭示模型角色扮演的内部机制,为可解释性研究提供新视角。
Связанные сущности
Источник и авторские права
Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.
Как цитировать
При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.
Orange News: Как роль меняет ответы ИИ: разбор схемы Anthropic о интерпретируемости за август 2025. 15 августа 2025. https://new.nat6.net/ru/news/cmoegbh73006gslxx7jmd5474/