Ý thức tự phản tỉnh xuất hiện trong mô hình ngôn ngữ lớn
Tiêu đề gốc:Emergent Introspective Awareness in Large Language Models
Tóm tắt AI
Nghiên cứu dùng kỹ thuật "tiêm khái niệm" trực tiếp điều khiển trạng thái kích hoạt nội bộ của mô hình để kiểm tra liệu mô hình ngôn ngữ lớn có năng lực tự phản tỉnh thực sự. Thí nghiệm phát hiện trong một số tình huống, mô hình có thể nhận biết và xác định khái niệm được tiêm, phân biệt biểu diễn nội bộ với đầu vào văn bản gốc, thậm chí dùng hồi ức về ý định trước đó để phân biệt đầu ra của mình với nội dung do con người đặt trước. Trong đó, dòng Claude Opus thể hiện ý thức tự phản tỉnh mạnh nhất, nhưng năng lực này không ổn định và phụ thuộc cao vào tình huống. Nghiên cứu cho thấy mô hình hiện tại đã có một dạng nhận thức chức năng về trạng thái nội bộ, dù vẫn chưa đáng tin cậy nhưng có thể phát triển khi năng lực mô hình tăng lên.
Thông tin chính
- Nghiên cứu dùng kỹ thuật "tiêm khái niệm" trực tiếp điều khiển trạng thái kích hoạt nội bộ của mô…
- Thí nghiệm phát hiện trong một số tình huống,mô hình có thể nhận biết và xác định khái niệm được…
- Trong đó,dòng Claude Opus thể hiện ý thức tự phản tỉnh mạnh nhất,nhưng năng lực này không ổn định…
- Nghiên cứu cho thấy mô hình hiện tại đã có một dạng nhận thức chức năng về trạng thái nội bộ,dù…
Tóm tắt nhanh
- Đăng lúc
- Cập nhật lúc
- Danh mục
- Khác
- Điểm AI
- 83
研究揭示大模型可能具备有限内省能力,对 AI 安全和透明度有重要启示。
Thực thể liên quan
Nguồn và bản quyền
Bài viết này được tổng hợp dựa trên các tiêu đề chọn lọc và tóm tắt AI từ API công khai của AIHOT, đã ghi rõ nguồn và liên kết ngược; bản quyền nội dung gốc thuộc về cơ quan truyền thông và tác giả gốc, trang này không sao chép toàn văn.
Cách trích dẫn
Khi trích dẫn bài viết này, vui lòng giữ nguyên tiêu đề, ngày đăng và liên kết vĩnh viễn, đồng thời ghi rõ nguồn là Orange News.
Orange News: Ý thức tự phản tỉnh xuất hiện trong mô hình ngôn ngữ lớn. 29 tháng 10 2025. https://new.nat6.net/vi/news/cmoegbh73006cslxx667v4iig/