その他

役割はAIの回答をどう変えるか——Anthropic解釈可能性チーム2025年8月回路分析事例

原題:Circuits Updates — August 2025

AI 要約

Anthropic解釈可能性チームは2025年8月の研究更新で、回路分析事例を通じてモデルの「役割演技」が回答に与える影響を示した。研究はClaude Haiku 3.5モデルを使用し、システムプロンプトで「就学前児童」に設定して「27の平方根」を尋ねると、モデルは「わからない!」と応答して遊びを提案する。一方、デフォルトや「大学院生」役割では正解を出せる。チームは帰属グラフで重要サブ回路を特定した。モデルは「就学前児童」を「子供を演じる」に関連付け、「わからない」特徴を活性化できる。研究はまた、問題難度がこの効果を調節し、特徴介入でモデル行動を顕著に変えられることを発見した。これは他の役割の動作機構や事前学習役割とモデル表現能力の関係への後続の考察を促す。

要点

  • Anthropic解釈可能性チームは2025年8月の研究更新で、回路分析事例を通じてモデルの「役割演技」が回答に与える影響を示した。
  • 研究はClaude Haiku 3.
  • 5モデルを使用し、システムプロンプトで「就学前児童」に設定して「27の平方根」を尋ねると、モデルは「わからない!
  • 」と応答して遊びを提案する。
  • 一方、デフォルトや「大学院生」役割では正解を出せる。

概要

公開日時
更新日時
出典
Anthropic:Transformer Circuits(可解释性研究)
カテゴリ
その他
AI スコア
73
原文を読む 情報源で全文を読む
おすすめの理由

揭示模型角色扮演的内部机制,为可解释性研究提供新视角。

関連エンティティ

出典と著作権

本記事は AIHOT の公開 API が提供する厳選タイトルと AI 要約に基づいており、出典の明記と元記事へのリンクを行っています。原文の著作権は元の媒体と著者に帰属し、当サイトは全文を転載しません。

原文記事 · AIHOT 記事

引用方法

本記事を引用する際は、タイトル・日付・パーマリンクを保持し、出典をOrange Newsと明記してください。

Orange News:役割はAIの回答をどう変えるか——Anthropic解釈可能性チーム2025年8月回路分析事例。2025年8月15日。https://new.nat6.net/ja/news/cmoegbh73006gslxx7jmd5474/

すべて見る →