Другое

Как роль меняет ответы ИИ: разбор схемы Anthropic о интерпретируемости за август 2025

Оригинальный заголовок:Circuits Updates — August 2025

ИИ-резюме

В обновлении исследований за август 2025 команда интерпретируемости Anthropic на примере анализа схемы показала, как «ролевая игра» модели влияет на её ответы. В Claude Haiku 3.5 системная подсказка задаёт роль «дошкольника», и на вопрос о квадратном корне из 27 модель отвечает «Я не знаю!» и предлагает поиграть; в роли по умолчанию или «аспиранта» она даёт правильный ответ. С помощью графов атрибуции команда выявила ключевую подсхему: модель связывает «дошкольника» с «игрой в ребёнка» и активирует признак «я не знаю». Также обнаружено, что сложность вопроса модулирует эффект, а вмешательство в признаки заметно меняет поведение. Это ставит вопросы о механизмах других ролей и связи предобученных ролей со способностью модели к выражению.

Ключевые моменты

  • В обновлении исследований за август 2025 команда интерпретируемости Anthropic на примере анализа…
  • В Claude Haiku 3.
  • 5 системная подсказка задаёт роль «дошкольника»,и на вопрос о квадратном корне из 27 модель…
  • » и предлагает поиграть
  • в роли по умолчанию или «аспиранта» она даёт правильный ответ.

Кратко

Опубликовано
Обновлено
Источник
Anthropic:Transformer Circuits(可解释性研究)
Категория
Другое
Оценка ИИ
73
Читать оригинал Читать полную статью в первоисточнике
Почему это важно

揭示模型角色扮演的内部机制,为可解释性研究提供新视角。

Связанные сущности

Источник и авторские права

Статья основана на отобранных заголовках и ИИ-резюме из открытого API AIHOT с указанием источника и обратными ссылками. Авторские права на оригинал принадлежат исходным изданиям и авторам; сайт не воспроизводит полные тексты.

Оригинал статьи · Материал на AIHOT

Как цитировать

При цитировании сохраняйте заголовок, дату и постоянную ссылку, указывая источник: Orange News.

Orange News: Как роль меняет ответы ИИ: разбор схемы Anthropic о интерпретируемости за август 2025. 15 августа 2025. https://new.nat6.net/ru/news/cmoegbh73006gslxx7jmd5474/

Смотреть все →