Khác

Ý thức tự phản tỉnh xuất hiện trong mô hình ngôn ngữ lớn

Tiêu đề gốc:Emergent Introspective Awareness in Large Language Models

Tóm tắt AI

Nghiên cứu dùng kỹ thuật "tiêm khái niệm" trực tiếp điều khiển trạng thái kích hoạt nội bộ của mô hình để kiểm tra liệu mô hình ngôn ngữ lớn có năng lực tự phản tỉnh thực sự. Thí nghiệm phát hiện trong một số tình huống, mô hình có thể nhận biết và xác định khái niệm được tiêm, phân biệt biểu diễn nội bộ với đầu vào văn bản gốc, thậm chí dùng hồi ức về ý định trước đó để phân biệt đầu ra của mình với nội dung do con người đặt trước. Trong đó, dòng Claude Opus thể hiện ý thức tự phản tỉnh mạnh nhất, nhưng năng lực này không ổn định và phụ thuộc cao vào tình huống. Nghiên cứu cho thấy mô hình hiện tại đã có một dạng nhận thức chức năng về trạng thái nội bộ, dù vẫn chưa đáng tin cậy nhưng có thể phát triển khi năng lực mô hình tăng lên.

Thông tin chính

  • Nghiên cứu dùng kỹ thuật "tiêm khái niệm" trực tiếp điều khiển trạng thái kích hoạt nội bộ của mô…
  • Thí nghiệm phát hiện trong một số tình huống,mô hình có thể nhận biết và xác định khái niệm được…
  • Trong đó,dòng Claude Opus thể hiện ý thức tự phản tỉnh mạnh nhất,nhưng năng lực này không ổn định…
  • Nghiên cứu cho thấy mô hình hiện tại đã có một dạng nhận thức chức năng về trạng thái nội bộ,dù…

Tóm tắt nhanh

Đăng lúc
Cập nhật lúc
Nguồn
Anthropic:Transformer Circuits(可解释性研究)
Danh mục
Khác
Điểm AI
83
Đọc bản gốc Đọc toàn văn tại nguồn tin gốc
Lý do đề xuất

研究揭示大模型可能具备有限内省能力,对 AI 安全和透明度有重要启示。

Thực thể liên quan

Nguồn và bản quyền

Bài viết này được tổng hợp dựa trên các tiêu đề chọn lọc và tóm tắt AI từ API công khai của AIHOT, đã ghi rõ nguồn và liên kết ngược; bản quyền nội dung gốc thuộc về cơ quan truyền thông và tác giả gốc, trang này không sao chép toàn văn.

Liên kết gốc · Mục AIHOT

Cách trích dẫn

Khi trích dẫn bài viết này, vui lòng giữ nguyên tiêu đề, ngày đăng và liên kết vĩnh viễn, đồng thời ghi rõ nguồn là Orange News.

Orange News: Ý thức tự phản tỉnh xuất hiện trong mô hình ngôn ngữ lớn. 29 tháng 10 2025. https://new.nat6.net/vi/news/cmoegbh73006cslxx667v4iig/

Xem tất cả →