その他

大規模言語モデルに創発する内省意識

原題:Emergent Introspective Awareness in Large Language Models

AI 要約

研究は「概念注入」技術でモデル内部の活性状態を直接操作し、大規模言語モデルに真の内省能力があるか検証した。実験では、一部の状況でモデルが注入された概念を察知・識別し、自身の内部表現と元のテキスト入力を区別でき、さらには過去の意図の記憶を利用して自身の出力と人工的に設定された内容を識別できることが分かった。中でもClaude Opusシリーズが最も強い内省意識を示したが、この能力は不安定で状況依存性が高い。研究は、現在のモデルが内部状態に対する何らかの機能的感知を既に備え、依然信頼性は低いもののモデル能力向上とともに発展する可能性を示す。

要点

  • 研究は「概念注入」技術でモデル内部の活性状態を直接操作し、大規模言語モデルに真の内省能力があるか検証した。
  • 実験では、一部の状況でモデルが注入された概念を察知・識別し、自身の内部表現と元のテキスト入力を区別でき、さらには過去の意図の記憶を利用して自身の出力と人工的に設定された内容を識別できることが分かった。
  • 中でもClaude Opusシリーズが最も強い内省意識を示したが、この能力は不安定で状況依存性が高い。
  • 研究は、現在のモデルが内部状態に対する何らかの機能的感知を既に備え、依然信頼性は低いもののモデル能力向上とともに発展する可能性を示す

概要

公開日時
更新日時
出典
Anthropic:Transformer Circuits(可解释性研究)
カテゴリ
その他
AI スコア
83
原文を読む 情報源で全文を読む
おすすめの理由

研究揭示大模型可能具备有限内省能力,对 AI 安全和透明度有重要启示。

関連エンティティ

出典と著作権

本記事は AIHOT の公開 API が提供する厳選タイトルと AI 要約に基づいており、出典の明記と元記事へのリンクを行っています。原文の著作権は元の媒体と著者に帰属し、当サイトは全文を転載しません。

原文記事 · AIHOT 記事

引用方法

本記事を引用する際は、タイトル・日付・パーマリンクを保持し、出典をOrange Newsと明記してください。

Orange News:大規模言語モデルに創発する内省意識。2025年10月29日。https://new.nat6.net/ja/news/cmoegbh73006cslxx667v4iig/

すべて見る →
  • MiniMax、Hailuo 2.3 / 2.3 Fast 動画モデルを発表

    MiniMaxは動画生成モデルHailuo 2.3を発表した。物理動作の滑らかさ、アートスタイル化(アニメ、水墨、ゲームCGをサポート)、キャラクターの微表情が大幅に向上し、Hailuo 02の元の価格を維持、Fastバージョンはバッチ制…

    MiniMax:Blog(网页)その他

  • MiniMax、新世代音声モデルSpeech 2.6を発表

    MiniMaxは音声モデルSpeech 2.6を発表した。エンドツーエンド遅延は250ミリ秒以内に低下し、リアルタイム対話をサポートする。多言語の特殊フォーマット解析機能を追加し、URL、メール、電話、日付、金額を自動朗読でき、前処理が不…

    MiniMax:Blog(网页)その他

  • Gemini 2.5 Flash-Lite が正式リリース、大規模生産に利用可能

    Gemini 2.5 Flash-Lite がプレビューを終了し、生産レベルで利用可能な状態となった。この高コストパフォーマンスモデルは軽量ながら高品質な出力を提供し、100 万トークンの超長コンテキストとマルチモーダル能力をサポートする。

    Google DeepMind:Blog(RSS)その他

  • 何に合わせるのか?MiniMax M2におけるエージェント汎化の再考

    MiniMaxはHugging Faceでブログを公開し、そのM2エージェントモデルの汎化能力を検討した。記事の中核は、エージェントが「何に」合わせるべきかという基準や目標を再考し、未見のタスクや環境での汎用性能を向上させることにある。こ…

    Hugging Face 社区博客(混合发现)その他AI スコア 83