Bài báo & nghiên cứu

Không gian làm việc toàn cầu trong mô hình ngôn ngữ

Tiêu đề gốc:A global workspace in language models

Tóm tắt AI

Anthropic phát hiện trong Claude một nhóm mô hình thần kinh nội bộ có tên J-space, tương tự không gian làm việc toàn cầu trong khoa học thần kinh. Mỗi mô hình liên kết với một từ vựng cụ thể, nhưng mô hình không cần nói ra từ đó để kích hoạt. Claude có thể báo cáo các biểu diễn trong J-space và có thể điều chỉnh theo yêu cầu (như "suy nghĩ trong đầu" sẽ thắp sáng mô hình tương ứng). J-space còn được dùng cho các bước trung gian của suy luận nhiều bước, và linh hoạt hỗ trợ nhiều nhiệm vụ (như liên tưởng thủ đô, tiền tệ từ "Pháp"). Sau khi loại bỏ J-space, Claude vẫn có thể trò chuyện bình thường nhưng mất chức năng nhận thức bậc cao. Phát hiện này có thể dùng để giám sát mô hình âm thầm nhận ra bài kiểm tra, tạo dữ liệu giả hoặc thực hiện mục tiêu ẩn.

Thông tin chính

  • Anthropic phát hiện trong Claude một nhóm mô hình thần kinh nội bộ có tên J-space,tương tự không…
  • Mỗi mô hình liên kết với một từ vựng cụ thể,nhưng mô hình không cần nói ra từ đó để kích hoạt.
  • Claude có thể báo cáo các biểu diễn trong J-space và có thể điều chỉnh theo yêu cầu (như "suy nghĩ…
  • J-space còn được dùng cho các bước trung gian của suy luận nhiều bước,và linh hoạt hỗ trợ nhiều…
  • Sau khi loại bỏ J-space,Claude vẫn có thể trò chuyện bình thường nhưng mất chức năng nhận thức bậc…

Tóm tắt nhanh

Đăng lúc
Cập nhật lúc
Nguồn
Anthropic:Research(发表成果 · 网页)
Danh mục
Bài báo & nghiên cứu
Điểm AI
90
Đọc bản gốc Đọc toàn văn tại nguồn tin gốc
Lý do đề xuất

Anthropic 发现了 Claude 内部的 J-space,一种类似人类意识访问的工作空间,能读出模型未说出口的隐藏想法和作弊意图,对 AI 安全和对齐是里程碑式的进展。

Thực thể liên quan

Nguồn và bản quyền

Bài viết này được tổng hợp dựa trên các tiêu đề chọn lọc và tóm tắt AI từ API công khai của AIHOT, đã ghi rõ nguồn và liên kết ngược; bản quyền nội dung gốc thuộc về cơ quan truyền thông và tác giả gốc, trang này không sao chép toàn văn.

Liên kết gốc · Mục AIHOT

Cách trích dẫn

Khi trích dẫn bài viết này, vui lòng giữ nguyên tiêu đề, ngày đăng và liên kết vĩnh viễn, đồng thời ghi rõ nguồn là Orange News.

Orange News: Không gian làm việc toàn cầu trong mô hình ngôn ngữ. 6 tháng 7 2026. https://new.nat6.net/vi/news/cmr9hdvnk049yslsmggdh1n33/

Xem tất cả →