その他

回路追跡:言語モデルにおける計算グラフの解明

原題:Circuit Tracing: Revealing Computational Graphs in Language Models

AI 要約

研究チームは言語モデル行動の計算機構を解明する「回路追跡」手法を提案した。本手法は代替モデルで計算ステップを追跡し、モデル実行過程を記述するグラフを生成する。代替モデルは層間トランスコーダなど解釈可能コンポーネントで元構造を近似する。チームは可視化と検証ツールを開発し、18層言語モデルの簡単な行動帰属グラフを研究し、後続研究の基礎を築き、Claude 3.5 Haikuへの応用を計画する。主要決定には層間トランスコーダで特徴を抽出し、特徴間線形相互作用の帰属グラフを構築することが含まれる。

要点

  • 研究チームは言語モデル行動の計算機構を解明する「回路追跡」手法を提案した。
  • 本手法は代替モデルで計算ステップを追跡し、モデル実行過程を記述するグラフを生成する。
  • 代替モデルは層間トランスコーダなど解釈可能コンポーネントで元構造を近似する。
  • チームは可視化と検証ツールを開発し、18層言語モデルの簡単な行動帰属グラフを研究し、後続研究の基礎を築き、Claude 3.
  • 5 Haikuへの応用を計画する。

概要

公開日時
更新日時
出典
Anthropic:Transformer Circuits(可解释性研究)
カテゴリ
その他
AI スコア
76
原文を読む 情報源で全文を読む
おすすめの理由

揭示大模型内部机制,为AI安全与调试提供新工具。

関連エンティティ

出典と著作権

本記事は AIHOT の公開 API が提供する厳選タイトルと AI 要約に基づいており、出典の明記と元記事へのリンクを行っています。原文の著作権は元の媒体と著者に帰属し、当サイトは全文を転載しません。

原文記事 · AIHOT 記事

引用方法

本記事を引用する際は、タイトル・日付・パーマリンクを保持し、出典をOrange Newsと明記してください。

Orange News:回路追跡:言語モデルにおける計算グラフの解明。2025年3月27日。https://new.nat6.net/ja/news/cmoegbh73006pslxxkpwgqif7/

すべて見る →
  • 大規模言語モデルの生物学について

    研究チームは回路追跡手法を用い、Claude 3.5 Haikuモデルの多様な状況下での内部動作機構を深く探究した。同モデルは2024年10月にリリースされたAnthropicの軽量生産モデルである。研究では、モデルが詩生成前に韻詞を事前…

    Anthropic:Transformer Circuits(可解释性研究)その他AI スコア 88

  • Grok 3 Betaリリース:推論エージェントの時代が到来

    Grok 3 Betaが正式にリリースされ、「推論エージェント」の時代が幕を開けた。新バージョンは深い推論と自律的意思決定能力を強化し、複雑なタスクの分解と多段階の論理チェーン処理をサポートする。数学やプログラミングなど推論集約型のシーン…

    xAI:News(网页)その他

  • MiniMax MCP Server

    MiniMaxはMCP Serverをリリースした。テキスト読み上げ、音声クローン、テキスト画像生成、テキスト動画生成などのマルチモーダル能力を統合する。Claude Desktop、Cursor、Windsurfなど主要なMCPクライア…

    MiniMax:Blog(网页)その他

  • NSA:ハードウェアに整合した新たなスパースアテンション機構

    NSAはハードウェアに整合し、ネイティブにトレーニング可能なスパースアテンション機構であり、超高速の長文脈トレーニングと推論のために設計されている。その核心は動的な階層型スパース戦略を採用し、粗粒度のトークン圧縮と細粒度のトークン選択を組…

    X:DeepSeek (@deepseek_ai)その他

  • Circuits アップデート — 2025年4月

    Anthropic解釈可能性チームは2025年4月の研究進展を共有し、失敗したジェイルブレイク攻撃事例を重点的に分析した。チームが同一モデルに回路追跡手法を適用したところ、モデルが今回のジェイルブレイク試行を拒否した理由は、論文で直接的な…

    Anthropic:Transformer Circuits(可解释性研究)その他AI スコア 80